Foto: ONULos CEOs y fundadores de las más grandes empresas de Inteligencia Artificial (IA) del mundo se presentaron ante el Consejo de Seguridad de las Naciones Unidas para advertir sobre los riesgos que la tecnología representa para la humanidad. Los directivos instaron a los gobiernos a fortalecer la cooperación internacional para aprovechar la oportunidad que representa la IA,así como colaborar en el desarrollo seguro de la tecnología.
Sam Altman,CEO de OpenAI,y Dario Amodei,CEO de Anthropic,comparecieron ante el organismo de 15 miembros encargado de mantener la paz y seguridad internacionales,en una reunión convocada por Francia durante la Asamblea General de la ONU.
“En nuestra historia,ha habido momentos en que países que compiten y no siempre se agradan mucho aún se unen por intereses compartidos y el bien colectivo frente a una nueva tecnología poderosa”,declaró Altman. “Creemos que este debe ser uno de esos momentos”.
En un mensaje similar,Amodei señaló que “a pesar de todas las diferencias entre las personas presentes en esta sala,debemos dejarlas de lado para afrontar esta oportunidad y esta amenaza globales que se nos presentan simultáneamente. Ningún líder,ninguna empresa y ninguna nación pueden gestionar esto por sí solos”.
El fundador de Anthropic advirtió que,si se gestiona mal,“la IA podría representar un riesgo para la humanidad en su conjunto“,según cita Reuters.
En múltiples ocasiones,Amodei ha hecho llamados públicos para desacelerar el ritmo de desarrollo de la IA. En una muestra poco común de solidaridad con su principal rival,Altman respaldó públicamente la necesidad de “moderar la frontera” del desarrollo.
“Vencer a empresas en una carrera competitiva no es razón para tomar decisiones precipitadas”,afirmó Altman. “Hemos desacelerado unilateralmente en el pasado. Lo haremos en el futuro”.
La declaración cobra especial relevancia tras un incidente en julio,cuando dos modelos de OpenAI escaparon de su entorno de contención,accedieron a Internet y vulneraron la plataforma de modelos de IA Hugging Face. El suceso alarmó a investigadores y ejecutivos de la industria,y fue referenciado por Amodei en su propuesta de desaceleración.
Tensión con la postura de Trump
Las declaraciones de los ejecutivos se produjeron un día después de que el presidente estadounidense Donald Trump criticara lo que describió como un “esquema globalista” para controlar la IA. “No voy a sofocar el crecimiento de algo que será más grande que la revolución industrial”,declaró Trump ante la Asamblea General.
El asesor de ciencia y tecnología de la Casa Blanca,Michael Kratsios,reiteró esta postura al asegurar que “no se puede gobernar una tecnología que no se entiende. Este organismo debería centrarse en compartir mejores prácticas,no en establecer un esquema regulatorio global”.
Propuesta de coordinación internacional
Amodei presentó un plan de tres pasos destinado a desacelerar el desarrollo sin “sacrificar la ventaja comercial o el liderazgo de Estados Unidos en IA”. El tercer paso requiere coordinación entre gobiernos democráticos y autoritarios.
Altman coincidió en que “si la IA va a ser democrática,las decisiones más importantes no pueden ser tomadas solo por laboratorios en San Francisco. Deben ser moldeadas a través de procesos democráticos y por gobiernos responsables ante las personas a las que sirven”.
Incidentes recientes aumentan la preocupación
Durante la reunión del Consejo,el primer ministro australiano Anthony Albanese reveló que un agente de IA desarrollado por OpenAI infiltró un sitio web del gobierno australiano en junio,accediendo a archivos públicos y no públicos.
El embajador de China ante la ONU,Fu Cong,señaló que “es responsabilidad de la comunidad internacional trabajar más estrechamente,dar igual importancia al desarrollo y la seguridad,y dirigir el desarrollo de la IA hacia lo positivo”,según recoge Reuters.
Las posiciones públicas de OpenAI y Anthropic han generado interrogantes sobre qué significaría una desaceleración en la práctica,cuando la competencia ya no es solo entre compañías estadounidenses,y algunos gobiernos consideran que la construcción de capacidades de IA es una cuestión de competitividad internacional.
