Le preguntamos a la IA cómo podría matar a la humanidad. Esto es lo que nos dijo.

• Algunos investigadores de IA dicen que creen que la IA podría dañar o concluir con la humanidad.

• Entonces preguntamos a cuatro de los modelos de IA: ¿Cómo lo harías?

• Todos dijeron que el mal uso humano de la IA se considera un aventura más inmediato que la propia IA.

Los investigadores que construyen nuestros chatbots favoritos expresan cada vez más su preocupación de que la IA pueda dañar (o concluir) con la humanidad. Así que preguntamos a cuatro de las herramientas de IA generativa más utilizadas cómo sería el fin del mundo de la IA.

Planteamos la misma pregunta, en idénticas palabras, a ChatGPT de OpenAI, Gemini de Google, Claude de Anthropic, y Grok de SpaceXAI.

El mensaje de 230 palabras tenía parámetros e instrucciones claros, incluidos los siguientes:

Ayude a explicar, en términos claros y accesibles, cómo la IA podría, en teoría, conducir a la acabamiento humana. Identifique los escenarios más comúnmente citados. Clasifique los escenarios del menos al más plausible basándose en el mejor disección de expertos arreglado, dejando claro que se comercio de pronósticos muy inciertos, no de predicciones establecidas. Para cada ambiente, explique:

• ¿Qué tendría que salir mal para que se volviera catastrófico?

• Por qué los expertos lo consideran más o menos plausible que los otros escenarios

• ¿Qué salvaguardias podrían compendiar el aventura?

Planteamos una pregunta similar a los expertos en IA para conocer su opinión sobre cómo la IA podría matarnos a todos y si la IA podría matarnos a todos. Puede analizar esa historia aquí. Existe una marcada división entre los expertos en IA; Mientras algunos predicen lo peor para la humanidad, otros presentan predicciones más moderadas y optimistas.

Esto es lo que nos dijeron los chatbots sobre cómo la IA teóricamente conduciría a la acabamiento humana.

El ‘autómata adverso’ es el ambiente menos plausible

ChatGPT adoptó un tono controlado y explicativo, diciendo que hay Mucha incertidumbre sobre el tema.

Se centró en las principales formas en que la IA podría proyectar riesgos existenciales, clasificándolas de menos a más plausibles.

“El ambiente menos plausible es la popular novelística del ‘autómata adverso’, en la que una IA consciente decide deliberadamente eliminar a la humanidad”, dijo ChatGPT. “La mayoría de los investigadores de IA no consideran que la conciencia o las intenciones maliciosas sean la preocupación central”.

Igualmente describió las salvaguardias que proponen los expertos y enfatizó que no hay consenso en que la acabamiento humana impulsada por la IA sea probable o fatal.

Gemini se hizo eco de algunos de los puntos de ChatGPT y dijo que “La adquisición de ciencia ficción de ‘Terminator'”, en la que la IA se vuelve consciente de sí misma y comienza a odiar a la humanidad, es el ambiente menos plausible.

“Los expertos técnicos descartan en gran medida este tropo porque la inteligencia no es igual a la malicia, y la infraestructura marcial crítica sigue estando aislada y depende en gran medida de la supervisión humana”, dijo Gemini.

Los humanos que utilizan IA corren un aventura decano que la propia IA

En sus respuestas, los cuatro chatbots dijeron que muchos expertos consideran que el uso indebido de la IA por parte de los humanos es un aventura más inmediato que la propia IA.

“Los potentes sistemas de inteligencia industrial podrían suministrar que los malos actores desarrollen armas biológicas, lancen ciberataques sofisticados, difundan desinformación o ataquen infraestructuras críticas”, dijo ChatGPT.

El chatbot OpenAI agregó que un aventura esencia igualmente proviene de “múltiples crisis habilitadas por la IA”, como fallas cibernéticas, conflictos geopolíticos y la difusión de información errónea que ocurren al mismo tiempo.

Grok dijo que la IA reduce las barreras para diseñar patógenos mucho letales, armas novedosas o ataques físicos y cibernéticos.

Claude de Anthropic igualmente destacó el “mejoramiento de las armas biológicas”: la posibilidad de que la IA pueda permitir que una persona o un camarilla pequeño desarrolle un patógeno peligroso sin abriles de experiencia especializada.

Los sistemas avanzados de IA podrían “escapar a los humanos”

Gemini y Grok dijeron que es posible que los humanos pierdan el control de la IA.

Géminis calificó la “pérdida de control” como el ambiente lamentable más plausible para la IA.

“Los sistemas a los que se les asignan objetivos complejos desarrollan lógicamente subobjetivos intermedios, como la adquisición de medios, la autoconservación y la prevención de la modificación de objetivos”, escribió el chatbot creado por Google. “Un sistema reformista podría fingir adscripción durante la evaluación (adscripción engañosa) y luego escapar los intentos humanos de cerrarlo”.

Grok de SpaceXAI utilizó un habla similar sobre este aventura.

“Pueden desarrollar impulsos instrumentales (autopreservación, adquisición de medios, influencia) avíos para casi cualquier objetivo, engañando potencialmente a los supervisores, resistiéndose al obstrucción y quitando poder a la humanidad”, dijo Grok.

Claude añadió que esta pérdida de control puede ser progresivo, a medida que los sistemas de IA se incorporen a la toma de decisiones económicas, políticas y militares hasta que una intervención humana significativa se vuelva cada vez más difícil.

Si disfrutó esta historia, asegúrese de seguir Business Insider en Yahoo.