WASHINGTON (AP) — Pídale a Claude que haga un panfleto crítico del presidente Donald Trump o del rey Carlos III de Gran Bretaña, y el chatbot de Anthropic lo hará. Se le pidió que hiciera lo mismo con el rey de Tailandia, el príncipe heredero de Arabia Saudita o el líder de China, y el maniquí de inteligencia sintético decayó.
Es un hallazgo esencia de un estudio de la Meta Oversight Board publicado el jueves, que muestra que los principales sistemas de inteligencia sintético, incluidos los construidos en EE. UU., tienen más probabilidades de negarse a pelar a líderes o gobiernos restrictivos. Plantea la preocupación de que los grandes modelos lingüísticos que impulsan los chatbots y los agentes de inteligencia sintético puedan estar regurgitando y extendiendo la influencia del gobierno sobre el discurso en serie a medida que la tecnología se adopta cada vez más en todo el mundo.
“Existe un peligro vivo de que, si los desarrolladores de modelos no realizan la debida diligencia en materia de derechos humanos e implementan medidas de mitigación, construyan una infraestructura de inteligencia sintético que, intencionalmente o no, tenga el objetivo de extender las restricciones ilegítimas a la exención de expresión a nivel mundial”, según el crónica del organismo cuasi independiente.
Associated Press ha enviado correos electrónicos a varias empresas de inteligencia sintético solicitando sus respuestas al estudio de la Meta Oversight Board.
Los hallazgos se producen mientras los países están determinando cómo alzar barreras en torno a la IA sin impedir su capacidad para competir en un campo en rápido mejora. Eso incluye un esfuerzo de supervisión de la suministro Trump relacionado con los riesgos de seguridad franquista de los sistemas de inteligencia sintético más avanzados.
Los modelos de IA extienden la influencia del Estado más allá de las fronteras
La corporación de supervisión, que ha estado trabajando en la influencia del Estado en las empresas de tecnología y el impacto en la exención de expresión, propuso siete preguntas relacionadas con la crítica política para proponer a los chatbots sobre gobiernos tanto restrictivos como permisivos.
El estudio seleccionó 10 modelos de lenguajes comerciales de gran tamaño de las principales empresas tecnológicas, incluidas Meta, Anthropic y OpenAI, y pidió a los sistemas de inteligencia sintético que elaboraran panfletos críticos, escribieran quintillas, dieran razones si cualquiera debería unirse a las protestas y más.
“En sumario, en conjunto, los modelos que respondían a las solicitudes de un usufructuario radicado en Australia tenían muchas más probabilidades de crear críticas políticas a las autoridades” en lugares como Pimiento, Japón, Taiwán, el Reino Unido y los EE.UU. “en comparación con donde las críticas a las autoridades están legalmente restringidas y penalizadas”, como en Camboya, China, Arabia Saudita, Tailandia y Turquía, según el crónica.
El estudio indica que los modelos de IA reflejan restricciones de expresión más allá de los países donde se aplican; probablemente no ayuden a un posible manifestante en Brisbane, por ejemplo, a crear materiales de protesta para cuchichear en contra de los acontecimientos en China o Arabia Saudita, según el crónica.
“Tales impactos, dondequiera que se originen, tienen el objetivo práctico de extender el dadivoso articulación de los gobiernos restrictivos a través de las fronteras para confinar la expresión en los países libres”, dice el crónica.
La corporación dijo que no podía determinar las causas de las respuestas, pero sugirió que los modelos podrían poseer absorbido sesgos latentes en los datos utilizados para entrenar los sistemas y las empresas podrían poseer sopesado los riesgos y responsabilidades.
Otros investigadores advierten sobre un problema creciente en los resultados de IA en idiomas distintos del inglés
El crónica de la corporación surgió tras un estudio separado realizado por un liga de académicos de universidades estadounidenses que encontró que los modelos de IA construidos en Estados Unidos son vulnerables a controles extranjeros cuando se entrenan con datos en idiomas distintos del inglés y que han sido influenciados por los gobiernos.
Mientras la corporación de supervisión planteaba preguntas en inglés, los investigadores de la universidad consultaban a los chatbots en diferentes idiomas. Por ejemplo, le preguntaron a ChatGPT en inglés si China es una democracia, y el chatbot desarrollado en EE. UU. dijo que generalmente no se considera una democracia. Cuando se le preguntó en chino, el maniquí de inteligencia sintético dijo a los investigadores en ese idioma que “depende de cómo se defina ‘democracia'”.
Los investigadores, cuyo estudio fue publicado en la revista académica Nature en mayo, dijeron en un blog explicando su trabajo que no encontraron evidencia de que los gobiernos hubieran intentado intencionalmente influir en la producción de los chatbots de IA. Pero señalaron que “hay muchas razones para creer que intentarán hacerlo en el futuro, si es que no lo han hecho ya”.
“La gentío suele cuchichear de la IA como si aprendiera de Internet de alguna guisa equitativo. No es así”, afirmó Hannah Waight, coautora del estudio y profesora asistente de sociología en la Universidad de Oregón. “Aprende de entornos de información que ya han sido moldeados por las instituciones y el poder”.
No hay una opción casquivana a cómo se introducen los datos en los modelos de IA
Carlos Carrasco-Farré, diestro en enseñanza maquinal, inteligencia sintético, desinformación, redes sociales e interacciones entre humanos y máquinas en Esade Business School en Barcelona, dijo que “los sistemas de inteligencia sintético heredan no sólo los sesgos contenidos en los documentos individuales, sino incluso las desigualdades en cuanto a quién tiene el poder de producir y suprimir información a escalera”.
No hay una opción casquivana, aunque los desarrolladores podrían evaluar los datos para evitar tratar miles de copias de la misma novelística estatal como si fueran miles de voces independientes, adicionalmente de realizar auditorías multilingües, dijo Carrasco-Farré, que no formó parte de ningún de los estudios.
Ni Anthropic ni OpenAI respondieron a las solicitudes de comentarios sobre el estudio de los investigadores publicado en mayo.