Los líderes de las principales empresas de inteligencia químico dijeron el miércoles al Consejo de Seguridad de la ONU que la tecnología exige una veterano vigilancia, y el director ejecutante de Anthropic prometió resumir la velocidad cuando sea necesario para asegurar la seguridad de los nuevos lanzamientos.
“Este momento exige un cuidado extremo”, dijo el director ejecutante de OpenAI, Sam Altman, en Nueva York en una reunión de emergencia del consejo de 15 miembros.
Advirtió que a medida que los sistemas de IA se vuelvan más capaces y autónomos, podrían moverse más rápido que las instituciones o concentrar el poder en muy pocas manos.
Altman estuvo entre los líderes de la industria que informaron al consejo luego de semanas de titulares globales sobre los riesgos de una inteligencia químico incontrolable y llamados a una desaceleración, a los que el presidente de Estados Unidos, Donald Trump, se ha resistido.
“La industria no debe aceptar demasiado aventura tecnológico sólo porque los beneficios son demasiado grandes e importantes para frenarlos”, dijo Altman al mayor organismo de las Naciones Unidas.
Igualmente instó a los gobiernos a trabajar entre sí y con la industria en las decisiones que darán forma al futuro de la tecnología.
“En nuestra historia, ha habido momentos en los que países que compiten y no siempre se agradan mucho se unen por intereses compartidos y el admisiblemente colectivo frente a una nueva y poderosa tecnología”, dijo.
“Creemos que este debe ser uno de esos momentos”, añadió.
– Disminuyendo la velocidad –
Hablando luego de Altman, el CEO de Anthropic, Dario Amodei, dijo que su compañía entiende que a medida que los modelos de IA se vuelvan más poderosos, “se requerirán estándares de seguridad aún más estrictos”.
Dijo que Anthropic tiene como objetivo mejorar su capacidad para preparar el uso indebido de la tecnología.
“Reduciremos la velocidad tanto como sea necesario para asegurarnos de que cada tecnología de IA sucesiva que lancemos sea efectivamente segura”, dijo Amodei en un video.
“Si se gestiona mal, creo incluso que la IA podría representar un aventura para la humanidad en su conjunto”, añadió Amodei.
Otros oradores incluyeron a Clement Delangue de Hugging Face, que fue objeto de un flamante ciberataque por parte del software autónomo OpenAI.
Este fue el primero de una serie de incidentes que han hecho sonar las alarmas sobre la rápida desarrollo de la tecnología.
A principios de septiembre, Jacob Coxon, un investigador que trabajó tanto en OpenAI como en Anthropic, decidió desatender la industria y acusó a ambas empresas de “esparcirse con nuestras vidas” en la carrera por desarrollar modelos de IA capaces de superarse.
– ‘Camino intermedio’ –
Los comentarios de los ejecutivos se producen poco antiguamente de que Trump reciba al líder chino Xi Jinping y lo invite a una cumbre donde la IA estará en la dietario.
El miércoles, Altman dijo que su compañía intentaría tomar un “camino intermedio”.
“No queremos caer en la trampa del optimismo ciego”, pero advirtió contra caer todavía en el “doomismo”.
Yoshua Bengio, el informático canadiense considerado uno de los fundadores de la IA, dijo al Consejo de Seguridad que “cada vez más personas están, con razón, preocupadas por los avances recientes”.
“Debemos canalizar esa preocupación en acciones productivas”, afirmó.
Delangue, de Hugging Face, señaló que si admisiblemente su empresa fue atacada por la IA, todavía utilizó la tecnología para defenderse de los ataques. “El mundo necesita más que nunca la IA de código extenso para defenderse”.
Altman, Amodei y varios otros ejecutivos destacados de la IA han estado pidiendo una supervisión general de la tecnología.
OpenAI ha instado a Estados Unidos a liderar un esfuerzo general para establecer estándares para la IA, señalando que su industria se encuentra en la frontera técnica.
El primer ministro Andy Burnham dijo el martes que Gran Bretaña lanzaría un esfuerzo para establecer estándares globales de IA durante su presidencia del G20 en 2027.
El Ministro de Asuntos Exteriores de Francia, Jean-Noël Barrot, instó de modo similar a una energía conjunta en el entorno de la ONU y con las empresas para establecer reglas para una nueva era.
Pero los esfuerzos diplomáticos podrían chocar con la posición estadounidense.
Michael Kratsios, director de la Oficina de Política Científica y Tecnológica de la Casa Blanca, dijo que el rápido avance no es motivo para detener el avance de la IA o limitarlo con nuevas estructuras de gobernanza.
Trump rechazó el martes la regulación internacional de la IA y calificó tales propuestas como un “esquema globalista”.
bys/msp