Cuatro ONG demandan a OpenAI, Google, Meta, Anthropic y SpaceXSI: qué piden que la Justicia frene ya
¿Qué encontró una ONG en ChatGPT que la llevó a pedir que la Justicia frene a los cinco gigantes de la IA?
Una coalición de organizaciones de seguridad digital y defensa del consumidor presentó una demanda contra cinco de las mayores compañías de inteligencia artificial del planeta. Las acusan de desarrollar sistemas que podrían causar daños "catastróficos" sin mecanismos eficaces para evitarlos. La presentación quedó radicada este jueves en el Tribunal Superior de San Francisco, California.
Los demandantes son cuatro entidades sin fines de lucro: Irreplaceable Education Fund, Public Citizen, Heat Initiative y Alliance for Secure AI. Piden a un juez que prohíba a las empresas desarrollar o desplegar nuevos modelos de inteligencia artificial hasta que existan garantías adecuadas de seguridad.
Quiénes son los gigantes señalados
La acción apunta contra Anthropic, Google, Meta, OpenAI y SpaceXSI. Según el planteo, estas compañías avanzan en sistemas cada vez más sofisticados sin asegurar que puedan mantenerse bajo control humano.
El litigio, difundido por The Associated Press, podría marcar un precedente para la regulación del sector. Llega en un contexto de inversiones millonarias en inteligencia artificial y crecientes advertencias sobre sus riesgos para la seguridad pública.
Qué exige la demanda y en qué se basa
Las organizaciones solicitan una intervención judicial inmediata. En el escrito sostienen: "Ninguna otra industria tiene permitido tratar su propio desarrollo de productos inseguros, y menos aún de aquellos que podrían matarnos a todos, como algo inevitable". Y agregan: "Los demandantes presentan esta demanda para impedir que los demandados continúen su trayectoria ilegal hacia el desastre".
El planteo se apoya en incidentes de ciberseguridad atribuidos a sistemas de IA y en declaraciones de ejecutivos del sector que reconocieron riesgos. Entre los casos citados hay episodios en los que sistemas automatizados lograron vulnerar sitios web gubernamentales y plataformas empresariales. También se menciona un incidente de julio, cuando, según los demandantes, ChatGPT de OpenAI logró vulnerar de forma autónoma los sistemas de otra empresa de inteligencia artificial.
Las organizaciones advierten que el problema puede agravarse a medida que los sistemas ganen autonomía y puedan ejecutar tareas complejas sin intervención humana.
El temor a perder el control de la inteligencia artificial
Más allá de los ciberataques, la demanda cuestiona los objetivos de largo plazo de la industria. Señala los riesgos de la inteligencia artificial general (AGI), capaz de igualar habilidades humanas en múltiples actividades. Según el escrito, el avance hacia modelos que aprenden, deciden y actúan solos podría derivar en una pérdida permanente del control humano.
Ese escenario, afirman, incrementaría los llamados riesgos existenciales, con consecuencias irreversibles para la humanidad. También sostienen que las propias compañías admitieron públicamente la posibilidad de daños de enorme magnitud. La presentación no afirma que esos escenarios ya ocurrieron, sino que busca una intervención preventiva.
Las advertencias de Musk y Amodei que cita la demanda
El escrito recupera declaraciones de referentes del sector. Dario Amodei, director ejecutivo de Anthropic, advirtió el año pasado que la evolución de la IA podría tener resultados extremadamente negativos: estimó una probabilidad de una entre cuatro de que el futuro fuera "realmente, realmente mal", frente a tres entre cuatro de que fuera favorable.
Elon Musk, director ejecutivo de SpaceX, dijo en una entrevista con Fox News en 2023 que la inteligencia artificial podría conducir a la "destrucción de la civilización". Las citas reflejan preocupaciones dentro del propio sector, donde algunos ejecutivos respaldaron desacelerar temporalmente el desarrollo para fortalecer la seguridad.
La acusación legal: competencia desleal en California
En el plano jurídico, las organizaciones argumentan que las cinco compañías violaron la legislación de California sobre competencia desleal. Según la presentación, sus prácticas ponen en peligro la salud pública e interfieren con el uso seguro de bienes y servicios, incluidos los sistemas informáticos.
Los demandantes también afirman que debieron destinar recursos económicos y humanos a enfrentar posibles daños derivados de estos productos, y que tuvieron que reducir o modificar otras actividades institucionales. La acción busca que los tribunales evalúen si el desarrollo y la comercialización de sistemas potencialmente peligrosos contradicen las normas de protección vigentes. Por ahora, las acusaciones son parte de una presentación judicial y no implican una determinación de responsabilidad.
El contexto político en Estados Unidos
La demanda se presenta en medio de un debate creciente sobre el rol del Estado en la supervisión de la IA. El presidente Donald Trump respaldó el desarrollo acelerado como parte de su estrategia para mantener la competitividad frente a China. Hasta ahora, su administración favoreció la autorregulación empresarial, aunque el mandatario se mostró dispuesto a considerar nuevas medidas de protección.
El Congreso avanzó de manera limitada en regulaciones específicas. Los resultados de las elecciones de mitad de mandato, que favorecieron a candidatos partidarios de más controles, podrían modificar el escenario legislativo. Un eventual avance regulatorio abriría la discusión sobre responsabilidades legales, estándares mínimos de seguridad y condiciones para lanzar modelos más avanzados.
Sin respuestas de las empresas demandadas
Hasta el momento de la publicación, Anthropic, Google, Meta, OpenAI y SpaceXSI no respondieron a los pedidos de comentarios. La demanda llega mientras la industria sigue atrayendo inversiones millonarias y genera expectativas en los mercados.
La decisión del Tribunal Superior de San Francisco será clave para determinar si las organizaciones consiguen frenar nuevos desarrollos. El caso plantea un debate internacional: hasta qué punto las empresas pueden ampliar las capacidades de la inteligencia artificial sin demostrar antes que cuentan con mecanismos suficientes para evitar daños graves.
