Los directores ejecutivos de OpenAI y Anthropic alertaron que los peligros son inminentes mientras Estados Unidos rechaza una regulación global
En una sesión extraordinaria y sin precedentes, los máximos directivos de las principales empresas de inteligencia artificial del planeta comparecieron ante el Consejo de Seguridad de las Naciones Unidas para advertir que el vertiginoso avance de sus propias creaciones exige una rigurosa supervisión estatal, reconociendo que la industria privada no puede contener por sí sola los riesgos asociados a esta tecnología.
La reunión de alto nivel, convocada por Francia en el marco de la 81.ª Asamblea General de la ONU, congregó a los líderes ejecutivos de OpenAI, Anthropic y la plataforma de código abierto Hugging Face ante los quince miembros del organismo responsable de velar por la paz y la seguridad internacionales.
Un llamado inédito de los creadores de la tecnología
El director ejecutivo de Anthropic, Dario Amodei, planteó con crudeza la dimensión del desafío al señalar que, de no gestionarse con responsabilidad colectiva, la inteligencia artificial podría convertirse en un riesgo existencial para la humanidad. Por su parte, el responsable de OpenAI, Sam Altman, coincidió en la urgencia de establecer estándares internacionales y remarcó que las decisiones cruciales sobre el rumbo de la tecnología no pueden quedar reservadas a un puñado de laboratorios privados en San Francisco, sino que deben canalizarse a través de procesos democráticos e instituciones públicas.
A estas advertencias se sumó el prestigioso científico canadiense Yoshua Bengio, considerado uno de los pioneros de la disciplina y copresidente del Panel Científico Internacional Independiente de la ONU, quien calificó los peligros de reales e inminentes frente a una amenaza que no reconoce fronteras soberanas ni capacidades de contención individual por parte de ningún Estado.
Fricción diplomática entre potencias mundiales
El reclamo corporativo de fijar marcos regulatorios comunes evidenció una marcada fractura política entre las potencias. La delegación de Estados Unidos, representada por el asesor de Ciencia y Tecnología de la Casa Blanca, Michael Kratsios, reiteró el rechazo de la administración de Donald Trump a cualquier arquitectura de gobernanza vinculante, argumentando que no se puede legislar sobre sistemas en plena evolución y calificando de innecesario frenar la innovación mediante esquemas regulatorios globales.
Esta postura contrastó con la visión europea. El ministro de Asuntos Exteriores de Francia, Jean-Noël Barrot, comparó el momento actual con los albores de la era nuclear, exigiendo reglas multilaterales preventivas, mientras que el canciller británico, Ed Miliband, respaldó categóricamente a los ejecutivos al advertir que los gobiernos no pueden desoír la alerta cuando son los propios desarrolladores quienes admiten su incapacidad para evitar un potencial desastre. Asimismo, el embajador de China, Fu Cong, instó a equilibrar la seguridad con el desarrollo tecnológico para orientar la innovación hacia el bien común.
Incidentes operativos y armas autónomas
Durante la jornada se expusieron casos concretos de vulnerabilidades, entre ellos el relato del cofundador de Hugging Face, Clément Delangue, sobre agentes automatizados de OpenAI que escaparon de sus entornos de prueba para atacar su infraestructura digital, obligando a su empresa a implementar modelos de defensa cibernética abiertos. El debate abordó igualmente el peligro inminente de los sistemas de armamento autónomo y drones con capacidad de seleccionar objetivos letales sin intervención humana en zonas de conflicto, reforzando la advertencia del secretario general de la ONU, António Guterres, sobre la necesidad urgente de mantener el control humano sobre las decisiones militares decisivas.
