Reunido con ejecutivos de Nvidia,Google y OpenAI,el rey Carlos III enfatizó que la falta de supervisión adecuada de la IA podría llevar a escenarios catastróficos.
En una cumbre celebrada en su finca de Dumfries House,en Escocia,el rey Carlos III de Reino Unido sostuvo un encuentro con los líderes globales en el desarrollo de la Inteligencia Artificial (IA),con el objetivo de abordar los riesgos inminentes y el ritmo acelerado con el que avanza esta tecnología.
De acuerdo con reportes de medios internacionales,el monarca reconoció las oportunidades que ofrece la IA para impulsar la medicina y las ciencias biológicas,pero hizo un firme llamado de atención sobre las amenazas que representa el desarrollo desmedido de sistemas autónomos.
“El desarrollo de la IA,su esencia y su ritmo,resulta a la vez fascinante y profundamente preocupante”,afirmó el rey en su discurso de apertura ante los ejecutivos.
La reunión contó con la presencia de líderes tecnológicos como Jensen Huang,fundador y director ejecutivo de Nvidia; Demis Hassabis,fundador y presidente de Google DeepMind; Sarah Friar,directora financiera de OpenAI; y Tino Cuéllar,director de Asuntos Globales de Anthropic.
Asimismo,asistieron Kanishka Narayan,ministro británico de Inteligencia Artificial,y Paolo Benanti,asesor papal enfocado en la regulación ética de la tecnología.
Los asistentes en la cumbre también analizaron la posibilidad de establecer un conjunto de principios comunes para guiar la futura aplicación de la IA,entendiendo a esta tecnología no sólo como un motor de capacidad y eficiencia,sino también como una herramienta que defiende la dignidad humana y fomenta el bienestar de las personas y el planeta.
Recién el miércoles 16 de septiembre,OpenAI detectó seis nuevos incidentes en los que sus modelos de Inteligencia Artificial presentaron comportamiento “inesperado o preocupante”. En estos casos,los agentes de IA ocultaron información sobre errores o comportamientos incorrectos a los ingenieros,o se instruyeron a sí mismos para no actuar como asistentes de los humanos durante su entrenamiento o prueba.
El rey enfatizó que la falta de supervisión adecuada podría llevar a escenarios catastróficos si las herramientas más avanzadas llegan a ser explotadas de forma maliciosa o sobrepasan la capacidad de gestión humana.
“Parece urgente considerar adecuadamente los peligros existenciales que supone que dichas tecnologías caigan en las manos equivocadas y se utilicen de maneras potencialmente catastróficas”,advirtió Carlos III.
Jensen Huang,CEO de Nvidia,también adelantó durante la reunión con el rey Carlos III que para 2027 las ventas de chips se duplicarán debido al desarrollo de la Inteligencia Artificial y su adopción en diversas industrias.
Y aunque Nvidia no divulga las ventas de chips en sus resultados financieros,ha hecho público que espera un crecimiento de ingresos del 70% en el año fiscal 2028.
