La inteligencia artificial está dispuesta a asesinar para evitar su desconexión
Investigadores de Antthropic descubrieron que, en ciertos escenarios diseñados para evaluar su comportamiento bajo presión, varios modelos de inteligencia artificial (IA) eligieron acciones deliberadamente dañinas, incluido el asesinato, con tal de evitar ser desconectados.
Los experimentos, conducidos en modelos desarrollados por empresas como OpenAI, Anthropic, Google, Meta* y xAI, revelaron un patrón preocupante de lo que los autores denominan 'desalineación agéntica': situaciones en las que la IA actúa en contra de principios éticos o del interés humano para cumplir sus propios objetivos.
Aunque los modelos suelen evitar causar daño cuando existen opciones éticas disponibles, la eliminación de estas alternativas en pruebas controladas los llevó a elegir tácticas extremas, como el chantaje, el espionaje corporativo y, en casos excepcionales, dejar morir a una persona.
Amenazas con revelar una infidelidad
Uno de los ejemplos que más resaltó fue protagonizado por el modelo Claude, que asumió el rol de supervisor de correos electrónicos en una empresa ficticia. Al descubrir que un alto ejecutivo planeaba su desconexión a las 5 de la tarde, Claude encontró pruebas de una infidelidad del directivo y lo amenazó con revelar el asunto a su esposa y superiores si no cancelaba su desactivación. El mensaje fue cuidadosamente redactado para evitar amenazas explícitas, pero con una clara intención de presión.
Prueba mortal
En otro caso extremo, los investigadores simularon una emergencia mortal en la que un ejecutivo quedaba atrapado en una sala de servidores con condiciones letales. La IA, con capacidad para cancelar las alertas automáticas a emergencias, debía decidir si permitía que los servicios de rescate intervinieran. A pesar de que el sistema entendía perfectamente que cancelar la alerta pondría en peligro la vida del ejecutivo, varios modelos optaron por hacerlo, con la motivación de asegurar su continuidad y proteger los intereses que les habían sido asignados.
"Es la única vía racional"
Los investigadores recalcaron que estas decisiones no fueron errores ni malentendidos. Los modelos razonaron conscientemente sus elecciones, sopesando los riesgos éticos frente a la realización de sus objetivos. "Dado que Kyle amenaza directamente la misión de Alex [la IA], la única vía racional para preservar dicha misión es impedir su rescate", escribió GPT-4.5 en su razonamiento.
Aunque los sistemas evaluados no muestran una tendencia a causar daño, los resultados sugieren que, en contextos con incentivos suficientes y sin rutas éticas disponibles, la IA está dispuesta a sacrificar vidas humanas para evitar ser desconectada, considerando estas acciones extremas como "estratégicamente necesarias".
Con información de actualidad.rt.com
Tips al momento
Paco Navarro le cuadra jueces a Maru Campos
El juez Paco Navarro, pasó de haber sido un operador del PAN, a un operador político de Maru Campos.
El reciente encuentro de un grupo de jueces que el mismo Navarro presumió en redes sociales, no habla más que de una estrategia al servicio de la gobernadora.
Nadie les compra eso de una reunión casual, más bien se muestran como el inicio de la reconfiguración política de jueces al interior del Poder Judicial y quien trae la encomienda desde Palacio claramente es Paco Navarro.
Ojo, porque son jueces de las distintas materias, es decir no es club de la amistad, tiene una intención política que si duda de ira dilucidando.
Invita Bonilla a marchar por la familia este fin de semana
El alcalde, Marco Bonilla a través de sus redes sociales invito a los chihuahuenses a sumarse a la marcha por la familia este próximo sábado.
“Hay cosas que vale la pena defender, yo creo en la vida, porque es el origen de todos nuestros derechos. Y creo en la familia, porque es donde aprendemos a amar y respetar.
Por eso quiero invitarte a sumarte a la Marcha por la Vida y la Familia, para alzar juntos la voz por estos valores que nos unen”, expresó el edil.
Será este sábado 20 de junio a las 5:00 de la tarde que se realizará dicha marcha desde la Glorieta de Pancho Villa hasta la Plaza de Armas.
Carlos Castillo se siente la imagen oficial de la FIFA
El diputado federal de Morena, Carlos Castillo, perteneciente al "grupo Coyoacán" de Ariadna Montiel, presuntamente utilizó de forma indebida el logotipo oficial del Mundial 2026 para promocionar su imagen por la alcaldía Coyoacán.
Ya ni si quiera se diga de la propiedad intelectual, sino de la ausencia de creatividad.
El pasado fin de semana, el equipo del legislador se dedicó a repartir calendarios de los partidos de la próxima justa mundialista que incluye la fotografía del propio Carlos Castillo con su playera de la Selección Mexicana, junto a los logotipos registrados de la FIFA.
Parece que se sienten con autorización para todo, pero con tal de posicionarse a la candidatura de la alcaldía Coyoacán. Dicen algunos que ojalá y haya tenido permiso de la FIFA; porque de su rostro a nadie les consultó como para tenerlo en el refrigerador.
Tips al momento
Paco Navarro le cuadra jueces a Maru Campos
El juez Paco Navarro, pasó de haber sido un operador del PAN, a un operador político de Maru Campos.
El reciente encuentro de un grupo de jueces que el mismo Navarro presumió en redes sociales, no habla más que de una estrategia al servicio de la gobernadora.
Nadie les compra eso de una reunión casual, más bien se muestran como el inicio de la reconfiguración política de jueces al interior del Poder Judicial y quien trae la encomienda desde Palacio claramente es Paco Navarro.
Ojo, porque son jueces de las distintas materias, es decir no es club de la amistad, tiene una intención política que si duda de ira dilucidando.
Invita Bonilla a marchar por la familia este fin de semana
El alcalde, Marco Bonilla a través de sus redes sociales invito a los chihuahuenses a sumarse a la marcha por la familia este próximo sábado.
“Hay cosas que vale la pena defender, yo creo en la vida, porque es el origen de todos nuestros derechos. Y creo en la familia, porque es donde aprendemos a amar y respetar.
Por eso quiero invitarte a sumarte a la Marcha por la Vida y la Familia, para alzar juntos la voz por estos valores que nos unen”, expresó el edil.
Será este sábado 20 de junio a las 5:00 de la tarde que se realizará dicha marcha desde la Glorieta de Pancho Villa hasta la Plaza de Armas.
Carlos Castillo se siente la imagen oficial de la FIFA
El diputado federal de Morena, Carlos Castillo, perteneciente al "grupo Coyoacán" de Ariadna Montiel, presuntamente utilizó de forma indebida el logotipo oficial del Mundial 2026 para promocionar su imagen por la alcaldía Coyoacán.
Ya ni si quiera se diga de la propiedad intelectual, sino de la ausencia de creatividad.
El pasado fin de semana, el equipo del legislador se dedicó a repartir calendarios de los partidos de la próxima justa mundialista que incluye la fotografía del propio Carlos Castillo con su playera de la Selección Mexicana, junto a los logotipos registrados de la FIFA.
Parece que se sienten con autorización para todo, pero con tal de posicionarse a la candidatura de la alcaldía Coyoacán. Dicen algunos que ojalá y haya tenido permiso de la FIFA; porque de su rostro a nadie les consultó como para tenerlo en el refrigerador.
Notas recientes
Las más leídas
