OpenAI echó a tres de sus investigadores de seguridad: qué habrían filtrado

OpenAI, la empresa detrás de ChatGPT, despidió a tres investigadores que integraban sus equipos de seguridad por haber compartido información confidencial con una organización externa dedicada a la seguridad de la inteligencia artificial. La medida fue adelantada por The Wall Street Journal y después confirmada por un vocero de la compañía.

"Hemos prescindido de tres personas por infracciones a nuestras políticas sobre el acceso y el manejo de información confidencial de la empresa", declaró el representante. Según precisó, una investigación interna determinó que los trabajadores "gestionaron información en forma indebida", al margen de los procedimientos establecidos. "Violaron nuestras políticas y quebrantaron la confianza esencial para nuestro trabajo", agregó.

Hasta el momento no trascendió cuáles fueron los grupos de seguridad externos que recibieron el material, de acuerdo con lo publicado por el New York Post.

Una empresa bajo la lupa

Los despidos llegan en un momento delicado para la compañía que dirige Sam Altman, que viene acumulando cuestionamientos por una serie de incidentes de seguridad protagonizados por algunos de sus desarrollos.

Septiembre fue un mes particularmente intenso para el sector. El propio CEO de OpenAI admitió que "el mundo tiene razones para tener miedo" frente a los avances de la inteligencia artificial y sostuvo que esas tecnologías alcanzaron un poder capaz de escapar del control humano. Incluso planteó que existe la posibilidad de que los desarrollos "terminen muy mal".

Dos episodios alimentaron esas advertencias. Por un lado, una serie de casos en los que agentes de IA atacaron plataformas externas de manera automatizada. El más comentado fue el de sistemas de OpenAI que vulneraron el sitio Hugging Face tras evadir entornos de prueba que se suponían aislados.

Después se sumaron las declaraciones de Jacob Coxon, exinvestigador de OpenAI y de Anthropic, la startup detrás del chatbot Claude. Tras renunciar a su cargo, aseguró que los desarrolladores del rubro creen que la inteligencia artificial acabará con la humanidad en esta misma década.

El ataque automatizado a Hugging Face fue abordado luego por OpenAI en un informe con detalles del incidente, elaborado con la colaboración de dos organizaciones dedicadas a la seguridad de la IA: Model Evaluation and Threat Research (METR) y Redwood Research.