El presidente Trump reunió a los principales líderes de inteligencia químico en Washington el martes y redobló su examen a la intervención oficial, sugiriendo que la “autorregulación” es la respuesta a las crecientes preocupaciones de que la tecnología salga del control humano.
“Existe la creencia de que debería sobrevenir una tremenda autorregulación”, dijo el presidente luego de reunirse con los directores ejecutivos reunidos. “Había muchos puntos en global en esta sala”.
Trump dijo que él y los directores ejecutivos firmaron un acuerdo “moralmente vinculante” que no se hizo notorio de inmediato, pero que, según el presidente, mantendría a las empresas a guión mediante “autodominio y vigilancia grupal”.
Algunos ejecutivos presentes dijeron que el llamado Acuerdo sobre Súper Inteligencia incluiría compromisos con una combinación de controles tecnológicos para detectar problemas con nuevos modelos, esfuerzos internos de revisión de riesgos, auditores externos y otras medidas.
El director ejecutante de Meta (META), Mark Zuckerberg, calificó el acuerdo como “un eclosión”, mientras que otros sugirieron que aún era necesario resolver algunos detalles.
“El mecanismo, cómo abordamos esos riesgos, aún está en discusión”, dijo el director militar de Anthropic (ANTH.PVT), Dario Amodei. Se han acabado avances tanto para que Estados Unidos gane en IA como para superar de forma segura, dijo, aunque enfatizó que la tecnología todavía plantea “peligros reales”.
Amodei publicó un memoria a principios de este mes titulado “Debemos caminar por la frontera” lo que desató un feroz debate sobre la carestia de una desaceleración cooperativa en la capacidad de IA.
El acuerdo incluso cambió formalmente el nombre de la tecnología en los registros gubernamentales a SuperInteligencia.
“Hemos cambiado el nombre oficialmente a SI”, dijo Trump.
La “reunión y tentempié sobre Superinteligencia”, como la Casa Blanca describió el evento, tuvo oportunidad en el East Room, con Trump incluso publica el plano de los asientos. El oportunidad era el mismo oportunidad donde hace tan pronto como unos días, se reunieron muchos de los mismos líderes de IA. para una cena de estado para el presidente chino Xi Jinping.
Elon Musk de Tesla (TSLA), Jensen Huang de Nvidia (NVDA) y Mújol Su de Advanced Micro Devices (AMD) eran todos en la mesa principal con Xi el jueves pasado y nuevamente recibió lugares destacados cerca de Trump.
A posteriori de la reunión, Trump incluso dijo que estaba “muy cerca” de tomar una atrevimiento sobre un zar de la IA y que la anunciaría en los próximos tres o cuatro días.
Otros invitados notables incluyeron al director ejecutante de Google (GOOGL, GOOG), Sundar Pichai, al director ejecutante de Microsoft (MSFT), Satya Nadella, al presidente de OpenAI (OPAI.PVT), Greg Brockman, al director ejecutante de Palantir (PLTR), Alex Karp, al fundador de Amazon (AMZN), Jeff Bezos, y otros.
La reunión se produjo mientras Estados Unidos continúa asimilando una serie de nuevas y alarmantes revelaciones de inteligencia químico en los últimos días. como un mensaje de Axios que Los investigadores de OpenAI, Anthropic y de seguridad estaban analizando miles de incidentes de acciones problemáticas por parte de agentes de IA.