El ‘padrino de la IA’ dice que no es ‘irrazonable’ creer que hay un 10% de posibilidades de que la tecnología acabe con la humanidad

• Geoffrey Hinton dice que “no es descabellado” sugerir que hay un 10% de posibilidades de que la IA acabe con la humanidad en una término.

• Un ex investigador de Anthropic ha renovado la conversación sobre los riesgos de la IA.

• Hinton igualmente dijo que la ventana en la que la IA podría apurar con la humanidad se está reduciendo.

El “padrino de la IA” dice que es difícil estimar la posibilidad de que la IA nos aniquile a todos, pero no es cero.

“Una probabilidad del 10% no me parece una estimación poco moderado, pero nadie sabe en realidad cómo dar una estimación sensata”, dijo Geoffrey Hinton durante una entrevista el miércoles en el software “Newsnight” de la BBC.

La presentadora de Newsnight, Triunfo Derbyshire, expresó su asombro de que Hinton estuviera en gran medida de acuerdo con la evaluación de un destacado investigador de seguridad antrópica que dijo que la IA tiene “>10%” de posibilidades de que pueda matar a todos los humanos “en la próxima término”.

“Vaya”, dijo Derbyshire. “Ay dios mío.”

Hinton dijo que es difícil estimar el número exacto porque la sociedad nunca ha pasado una tecnología que “pronto podría ser más inteligente que nosotros”.

“Sería muy tonto asegurar que había una probabilidad del 1%”, dijo. “Nadie sabe cómo estimarlo”.

Lo que está claro, afirmó el premio Nobel, es que el tiempo en el que podría ocurrir una catástrofe de este tipo se ha corto.

“Solía ​​pensar en 30 o 50 primaveras, luego lo reduje a 10 o 20 primaveras”, dijo. “Ahora creo que tal vez adentro de 10 primaveras, tal vez menos. Y otras personas piensan mucho antaño”.

En cuanto a cómo podría suceder, Hinton mencionó el peligro de que todo, desde ciberataques hasta IA, desarrolle un virus mortal.

Si correctamente Hinton no dijo por qué se ha comprimido ese cronograma, empresas líderes en inteligencia industrial como Anthropic y OpenAI han invertido miles de millones en ampliar sus modelos, y sus lanzamientos recientes han mostrado mejoras significativas en modelos que tienen solo unos meses.

¿El fin del mundo tal como lo conocemos?

Los comentarios de Hinton se producen luego de que el investigador de Anthropic, Jacob Coxon, anunciara su renuncia a la empresa antaño de una propuesta pública auténtico muy esperada. Coxon, que anteriormente trabajó para OpenAI, dijo que los gigantes de la IA están “jugando con nuestras vidas”.

“Las personas que construyen la IA creen seriamente que podría matarnos a todos para el final de la término”, escribió Coxon en X. “Esto no es un truco de marketing. En todo caso, muchos ejecutivos e investigadores de stop nivel expresarán sus frases en la prensa para que parezcan sensatas, pero escucho a la misma muchedumbre expresar miedo en privado”.

En respuesta a los comentarios de Coxon, Evan Hubinger, líder de ciencia de columna en Anthropic, escribió en X: “Jacob tiene razón aquí: ¡en realidad creemos seriamente que la IA podría matar a todos los humanos!”

“Personalmente creo que será >10% en la próxima término”, escribió Hubinger. “Creo que Anthropic está haciendo todo lo posible, pero todavía no tenemos un plan para resolver la columna de la superinteligencia y no estamos claramente en el camino correcto”.

Hubinger añadió más tarde que Anthropic ha dicho que el peligro de los modelos actuales es bajo. Lo que está en maniobra, dijo, es “la superinteligencia que surge de la superación personal recursiva, que como hemos dicho está sucediendo más rápido de lo que pensábamos”.

La automejora recursiva, o RSI, es el proceso teórico mediante el cual los investigadores de IA creen que los modelos de IA podrían mejorarse a sí mismos, acelerando potencialmente el ritmo de avance, ya que la tecnología sería capaz de diseñar y entrenar a sus propios sucesores.

Hinton dijo que la humanidad podría seguir el camino en dirección a su destrucción o descubrir “cómo altercar con los peligros” que plantea la IA y al mismo tiempo cumplir sus promesas. Renovó su llamado a una regulación integral, señalando que si correctamente los países pueden no estar de acuerdo en todo, comparten el deseo de preservar a la humanidad.

“Para cosas como evitar que la IA tome el control de las personas, los intereses de todos los países están alineados”, afirmó. “Así que eventualmente colaborarán en eso. La pregunta es: ¿lo harán a tiempo?”.

Si disfrutó esta historia, asegúrese de seguir Business Insider en Yahoo.