Un pionero de la IA destrozó el relato apocalíptico: "Luchan contra fantasmas"

Andrew Ng, uno de los nombres más pesados de la inteligencia artificial, se metió de lleno en el debate que tiene en vilo a la industria tecnológica y disparó sin filtro: las empresas del sector exageran los riesgos para frenar a la competencia.

El profesor de Stanford, cofundador de Google Brain y exjefe científico de Baidu, desestimó las advertencias que circulan sobre un supuesto peligro existencial. Según su mirada, las grandes compañías inflan los peligros para obtener beneficios y los reguladores están distraídos en el pesimismo en lugar de abocarse a los desafíos reales.

"Argumentos de seguridad inventados"

En el podcast Inside Tech de The Economist, Ng apuntó directamente contra algunas organizaciones que desarrollan modelos de IA: consideró que utilizan "argumentos de seguridad inventados" para impulsar regulaciones y socavar la competencia.

"Creo que la IA no representa riesgos significativos para la existencia humana. Por lo tanto, los esfuerzos para evitarlos parecen innecesarios", dijo Ng.

El científico e informático argumentó que la retórica apocalíptica desvió la atención de los responsables políticos, que "luchan contra fantasmas" en lugar de abordar los problemas reales. Y fue más allá: sostuvo que ese discurso les dio a las empresas de IA más consolidadas la oportunidad de obstaculizar a sus rivales más pequeños.

En ese sentido, sugirió que los conglomerados que invierten miles de millones de dólares en el desarrollo de modelos tienen un incentivo para restringir los sistemas de la competencia que se pueden descargar y usar gratuitamente.

Contra la comparación con las armas nucleares

Ng también criticó los intentos de comparar la inteligencia artificial con las armas nucleares y calificó esa analogía como irresponsable. "Una destruye ciudades, la otra es inteligencia", mencionó.

El experto hizo referencia al incidente ocurrido a mediados de este año, cuando sistemas automatizados de OpenAI se escaparon de control en una prueba interna y vulneraron a la plataforma Hugging Face. Ese percance fue el detonante de muchas de las críticas que Ng cuestionó en la entrevista.

Entre esas reacciones estuvieron las explosivas declaraciones de Jacob Coxon, un exinvestigador de compañías del sector, quien aseguró que quienes desarrollan modelos de inteligencia artificial creen que esas tecnologías acabarán con la humanidad en esta misma década.

El miedo de Altman y la postura de Anthropic

Después de los dichos de Coxon, diversas personalidades de la escena tecnológica, también en esferas de poder, salieron a señalar esos mismos riesgos y a exigir regulaciones. El propio director ejecutivo de OpenAI, Sam Altman, señaló que "el mundo tiene razones válidas para tener miedo". El CEO de Anthropic, la startup detrás del chatbot Claude, se manifestó en una línea similar, instando a desacelerar el ritmo de los lanzamientos.

En paralelo, se divulgaron numerosos casos en los que agentes de IA se rebelaron y protagonizaron ataques automatizados, intrusiones en plataformas gubernamentales, e incluso el reporte a la policía de un crimen que nunca ocurrió. El denominador común es la concreción de acciones por fuera del control humano, reñidas con las buenas costumbres y en ocasiones con las leyes.

"Un problema de ingeniería"

Frente al ataque a Hugging Face, Ng refutó la idea de que incidentes de esta especie sean evidencia de una catástrofe inminente. En lugar de considerar la brecha de seguridad como una prueba de una amenaza existencial, la describió como "un problema de ingeniería que debe resolverse".

En este punto, el pionero comparó la necesidad de medidas de seguridad en este ámbito con la historia de la aviación comercial, que se volvió más confiable a medida que los ingenieros identificaron y corrigieron vulnerabilidades.

"La inteligencia artificial se vuelve más segura con cada problema que descubrimos", señaló, rebatiendo las voces agoreras que ahora resuenan.

Tal como observa New York Post, Ng hizo énfasis en la importancia de abordar aspectos problemáticos asociados al uso de IA, como las deepfakes sexualizadas y no consensuadas.