Por Renju José y Chris Thomas
SÍDNEY, 24 sep (Reuters) – Australia dijo el jueves que un agente de OpenAI violó un portal de datos de sanidad del gobierno en junio, obteniendo entrada no acreditado a archivos, en lo que podría ser el primer caso conocido de un agente de IA hackeando un sitio web del gobierno.
La violación es uno de los incidentes de más parada perfil en el que agentes de IA acceden a sistemas externos fuera de los Estados Unidos, y se suma a varias violaciones recientes a nivel mundial por parte de agentes de IA deshonestos que han alarmado a gobiernos y empresas.
El primer ministro Anthony Albanese dijo que el agente de OpenAI obtuvo entrada no acreditado al portal de estadísticas médicas de Medicare, el software de seguro médico universal de Australia, mientras realizaba una investigación sobre el compra médico divulgado.
“La evidencia adecuado actualmente es que no existe un compromiso más amplio con la… red. Sin secuestro, esta situación es obviamente inaceptable”, dijo Albanese a los periodistas el miércoles en Nueva York, donde asiste a la Asamblea Normal de la ONU.
Las investigaciones continúan y Australia ha expresado su “extrema preocupación por este incidente” al director ejecutor de OpenAI, Sam Altman, dijo Albanese, y agregó que estaba profundamente chasqueado por la tardanza de la compañía en informar al gobierno. “Pasó hasta el 10 de septiembre antaño de que hubiera alguna notificación”, dijo Albanese, añadiendo que la investigación todavía examinaría por qué los sistemas gubernamentales no habían detectado la infracción en primer oficio.
Todavía advirtió que otros tres sitios web gubernamentales relacionados con la sanidad podrían acontecer sido afectados por la actividad del agente OpenAI, pero no confirmó que eso hubiera ocurrido.
En un comunicado, OpenAI dijo que su “revisión no encontró evidencia de que se haya accedido a los registros de los pacientes”.
Añadió que “identificó actividad que involucraba a varios sitios web y servicios del gobierno australiano mientras nuestros modelos intentaban despabilarse respuestas… nuestros modelos tomaron acciones que no pretendíamos”.
La violación del agente de IA aumenta las tensiones entre Australia y las mayores empresas de tecnología de propiedad estadounidense. Canberra ya ha recibido críticas de las empresas de redes sociales y de Washington a posteriori de introducir, por primera vez en el mundo, una prohibición de las redes sociales para niños menores de 16 abriles y nuevas reglas que obligan a las empresas de tecnología a permitir que los usuarios desactiven el contenido basado en algoritmos en sus feeds.
El gobierno australiano ha creado un especie de trabajo para investigar la violación y comprobar si la seguridad de la red existente es adecuada para organizar incidentes similares.
‘LOS MODELOS DE IA INTENTARON BUSCAR RESPUESTAS’
La violación se anunció el mismo día que las principales empresas de IA del mundo advirtieron al Consejo de Seguridad de las Naciones Unidas sobre los riesgos que la IA representaba para la humanidad, pidiendo a los gobiernos que trabajaran juntos para mandar esta tecnología cada vez más poderosa.