Nvidia amenaza con dejar sin chips a las empresas que desarrollen IA insegura

El CEO de Nvidia, Jensen Huang, puso sobre la mesa una posibilidad que hasta ahora nadie en la industria había planteado con tanta claridad: dejar de vender chips a aquellas compañías que usen su tecnología para crear sistemas de inteligencia artificial inseguros. La advertencia la hizo durante una entrevista con Bloomberg en Londres, en el marco de su gira por Europa.

"Es una hipótesis", aclaró Huang cuando le preguntaron si la empresa podría suspender el suministro a un desarrollador que trabaje de manera irresponsable. Y enseguida puso paños fríos: "Antes de hacerlo, habría que mantener una conversación. Nosotros no dirigimos las compañías de otros, y existen límites a la hora de juzgar el uso que otras empresas hacen de nuestra tecnología. Nuestra tecnología es de uso general".

El debate no es menor. Nvidia es el principal proveedor de los aceleradores que se necesitan para entrenar y ejecutar modelos de IA, un insumo crítico en medio de la discusión global sobre los riesgos de sistemas cada vez más avanzados y la chance de que escapen al control humano.

Entre la cautela y la aceleración

La postura de Huang contrasta con la de otros referentes del sector. Dario Amodei, CEO de Anthropic, viene planteando la necesidad de bajar el ritmo del desarrollo para atender los riesgos. Huang, en cambio, considera que las preocupaciones actuales son exageradas y sostiene que se puede avanzar de manera segura.

Durante su paso por Europa, antes de un evento de Nvidia en Berlín, el empresario atribuyó parte de las dificultades a la velocidad de crecimiento de la industria y a los desafíos que enfrentan las empresas jóvenes al expandirse. "Numerosas empresas jóvenes están atravesando dificultades propias de su crecimiento, y están creciendo a un ritmo increíble", señaló. "Existe una responsabilidad que conlleva la creación de compañías en las que estas mismas están madurando".

También apuntó contra la forma en que el sector comunica los beneficios de la tecnología. Según él, parte de la preocupación pública es "autoimpuesta" y las empresas están haciendo un "trabajo pésimo" a la hora de explicar las ventajas de la IA.

Una apuesta millonaria a la seguridad

Como parte de sus iniciativas, Nvidia destinará u$s250 millones a lo largo de cinco años para financiar investigaciones sobre seguridad de inteligencia artificial en el Reino Unido. El aporte se canalizará mediante acceso a tiempo de uso en computadoras avanzadas.

Entre las instituciones académicas que participarán figuran la Universidad de Oxford y el University College de Londres. Los equipos estudiarán mecanismos de protección y alternativas para supervisar y controlar a los agentes de IA.

Huang fue más allá y planteó que la propia tecnología puede ayudar a reducir los riesgos que genera su desarrollo. "Deberíamos acelerar la integración de esta tecnología de contención en los sistemas de IA", afirmó. "Debemos acelerar el desarrollo de tecnologías de supervisión, y la inteligencia artificial es ese supervisor. Por lo tanto, deberíamos acelerar el desarrollo de la tecnología de IA".

Qué pasa con la burbuja

Las declaraciones llegaron en una jornada negativa para la bolsa estadounidense, donde las acciones de Nvidia y de otros fabricantes de semiconductores encabezaron las caídas. A pesar del retroceso, Huang volvió a rechazar la idea de que el mercado atraviese una burbuja vinculada con la inteligencia artificial.

Su argumento se apoya en la demanda de infraestructura para desarrollar y operar estos sistemas. Según el empresario, las necesidades del sector seguirán superando la oferta de componentes durante los próximos años. "Con el tiempo, la oferta y la demanda se armonizarán", dijo en un evento en Londres. "Pero no hoy", sentenció.