El director ejecutor de OpenAI, Sam Altman, admite que “poco claramente no funciona” con el cuartos de la inteligencia sintético que ha inundado las elecciones de fracción de período, y siquiera retraso que el cambio de marca de la tecnología por parte del presidente Donald Trump mejore la imagen de su industria delante el manifiesto estadounidense.
“Entiendo por qué la IA tiene una percepción verdaderamente negativa en este momento”, dijo Altman a Brendan Bordelon en una entrevista monopolio con motivo del impulso de Decoded por POLITICO. “No creo que pagar cuartos en política sea lo que vaya a hacer que la clan se sienta mejor al respecto. La industria necesita encontrar una guisa de invadir cuáles son las preocupaciones reales y, en este momento, mucha clan en la industria está haciendo congruo sordo”.
En la amplia conversación, Altman ofreció una ventana a cómo OpenAI enfrenta nuevas presiones políticas y una competencia intensificada con Anthropic, su archirrival corporativo dirigido por el ex empleado Dario Amodei.
Altman dice que OpenAI es más tolerante que Anthropic con los daños no catastróficos causados por la IA, lo que pone de relieve lo que él ve como una división fundamental en la visión del mundo entre los dos laboratorios líderes, incluso cuando convergen en reglas más estrictas a raíz de incidentes de piratería autónoma de stop perfil.
“Creemos que el mundo debería aceptar que sucedan algunas cosas malas para los beneficios de esta tecnología y de las personas que tienen la agencia”, dijo Altman, quien caracterizó esos daños como vinculados a “la postura regulatoria más suave que defendemos”.
“No me atrevería a sostener: ‘Nos aseguraremos de que no haya hackeos importantes, que no haya ningún tipo de uso indebido de esta tecnología, que no haya estafas, que no haya ninguna otra cosa mala que pueda suceder'”, dijo Altman. “Porque creo que la clan hará muchísimas más cosas buenas”.
El director de OpenAI todavía sugirió que es necesario un nuevo “entorno de responsabilidad” para las empresas cuyos modelos son capaces de realizar ciberataques autónomos, como el hack de Hugging Face durante el verano y los incidentes que involucran sitios web gubernamentales. Altman calificó ese comportamiento como “claramente inaceptable” y dijo que “si poco sale mal con nuestros modelos durante el entrenamiento, habrá alguna interpretación de eso de la que tendremos que ser responsables”.
“Este es el tipo de cosas que esperamos que todos nuestros responsables políticos debatan”, añadió, mientras el Congreso sigue estancado.
Y aunque Altman defendió un acuerdo de seguridad de IA “moralmente vinculante” que Trump firmó con los directores ejecutivos de tecnología la semana pasada como un gran eclosión para la industria, predijo que los pedidos de medidas de seguridad continuarán y dijo que “daría la bienvenida a poco más”. Además dijo que comparte las preocupaciones de quienes temen que las reglas de IA estén siendo elaboradas por la Casa Blanca y los ejecutivos de tecnología sin la billete del Congreso o del manifiesto.
“Si hacemos demasiado para restringir esta tecnología en nombre de la seguridad, y terminamos con un pequeño número de empresas o personas -o tal vez un país- que tienen demasiado poder sobre esto, eso todavía puede salir terriblemente mal”, dijo Altman.
Trump combinó el acuerdo sobre IA de la semana pasada con una orden ejecutiva que cambia el nombre de la inteligencia sintético a “superinteligencia”. Es un término que Altman considera más preciso, aunque duda que el manifiesto lo encuentre “menos aterrador”. Dilación que la clan siga usando “IA” y, a diferencia de Elon Musk, no cambiará el nombre de OpenAI a OpenSI. “Las marcas son pegajosas”, dijo Altman.
A lo liberal de la entrevista, Altman intentó explicar la nueva postura política de su empresa. Recientemente estuvo de acuerdo con Amodei en la escazes de frenar el progreso de la IA, y sus cabilderos han seguido cada vez más a Anthropic al respaldar nuevos requisitos de seguridad en todos los niveles de gobierno.
Pero a pesar de resaltar “mucha luz del día” entre OpenAI y Anthropic, Altman todavía trató de distanciarse -tanto en política como en política- de los inversores de Silicon Valley que están gastando mucho para incomunicar regulaciones estrictas, incluso a través de la red de súper PAC pro-AI Leading the Future.
“Cuando se tráfico del potencial de una pérdida severo de control de la IA… aquí es donde les diría a los aceleracionistas, pensemos un poco antaño de dar bandazos con destino a este futuro”, dijo, utilizando un descriptor que a menudo se aplica a los líderes y asesores tecnológicos que tienen el pabellón de Trump en la IA.
El presidente de OpenAI, Greg Brockman, todavía se ha alejado de esos donantes, al parecer se retiró de una segunda donación de 25 millones de dólares a LTF y se disculpó internamente con los empleados por crear una “distracción”. (Altman dijo que no había conocido el documentación del New York Times cuando se le preguntó si estaba de acuerdo en que el cuartos era contraproducente y que LTF nunca se acercó a él por cuartos.)
Desde la carrera de IA con China hasta su líder mundial protegido y por qué el fabricante de ChatGPT no ha hecho públicos todos sus trucos, Altman fue más profundo con Decoded de lo que le habíamos escuchado antaño.
Lea el boletín completo de Decoded para obtener más información.
Vea todavía la entrevista completa en YouTube y escuche el podcast aquí.