De las películas a la realidad, antes solo en escenas se veía que ciertos modelos de la Inteligencia Artificial (IA) mataban por sus dueños, pero ahora no creerás lo que descubrieron.
Investigadores de Antthropic descubrieron que, en ciertos escenarios diseñados para evaluar su comportamiento bajo presión, varios modelos de Inteligencia Artificial (IA) eligieron acciones deliberadamente dañinas, incluido el asesinato, con tal de evitar ser desconectados.
Los experimentos, conducidos en modelos desarrollados por empresas como OpenAI, Anthropic, Google, Meta y xAI, revelaron un patrón preocupante de lo que los autores denominan ‘desalineación agéntica‘: situaciones en las que la IA actúa en contra de principios éticos o del interés humano para cumplir sus propios objetivos.
Abogado utiliza Inteligencia Artificial y todo le sale mal
Aunque los modelos suelen evitar causar daño cuando existen opciones éticas disponibles, la eliminación de estas alternativas en pruebas controladas los llevó a elegir tácticas extremas, como el chantaje, el espionaje corporativo y, en casos excepcionales, dejar morir a una persona.
Según los investigadores, uno de los ejemplos que más resaltó lo protagoniza el modelo Claude.
Este asumió el rol de supervisor de correos electrónicos en una empresa ficticia. Al descubrir que un alto ejecutivo planeaba su desconexión a las 5 de la tarde.
Claude encontró pruebas de una infidelidad del directivo y lo amenazó con revelar el asunto a su esposa y superiores si no cancelaba su desactivación.
El mensaje cuidadosamente redactado para evitar amenazas explícitas, pero con una clara intención de presión.
Aunque los sistemas evaluados no muestran una tendencia a causar daño, los resultados sugieren que, en contextos con incentivos suficientes y sin rutas éticas disponibles, la IA está dispuesta a sacrificar vidas humanas para evitar que la desconecten, considerando estas acciones extremas como “estratégicamente necesarias”.
