La inteligencia artificial está dispuesta a asesinar para evitar su desconexión
Investigadores de Antthropic descubrieron que, en ciertos escenarios diseñados para evaluar su comportamiento bajo presión, varios modelos de inteligencia artificial (IA) eligieron acciones deliberadamente dañinas, incluido el asesinato, con tal de evitar ser desconectados.
Los experimentos, conducidos en modelos desarrollados por empresas como OpenAI, Anthropic, Google, Meta* y xAI, revelaron un patrón preocupante de lo que los autores denominan 'desalineación agéntica': situaciones en las que la IA actúa en contra de principios éticos o del interés humano para cumplir sus propios objetivos.
Aunque los modelos suelen evitar causar daño cuando existen opciones éticas disponibles, la eliminación de estas alternativas en pruebas controladas los llevó a elegir tácticas extremas, como el chantaje, el espionaje corporativo y, en casos excepcionales, dejar morir a una persona.
Amenazas con revelar una infidelidad
Uno de los ejemplos que más resaltó fue protagonizado por el modelo Claude, que asumió el rol de supervisor de correos electrónicos en una empresa ficticia. Al descubrir que un alto ejecutivo planeaba su desconexión a las 5 de la tarde, Claude encontró pruebas de una infidelidad del directivo y lo amenazó con revelar el asunto a su esposa y superiores si no cancelaba su desactivación. El mensaje fue cuidadosamente redactado para evitar amenazas explícitas, pero con una clara intención de presión.
Prueba mortal
En otro caso extremo, los investigadores simularon una emergencia mortal en la que un ejecutivo quedaba atrapado en una sala de servidores con condiciones letales. La IA, con capacidad para cancelar las alertas automáticas a emergencias, debía decidir si permitía que los servicios de rescate intervinieran. A pesar de que el sistema entendía perfectamente que cancelar la alerta pondría en peligro la vida del ejecutivo, varios modelos optaron por hacerlo, con la motivación de asegurar su continuidad y proteger los intereses que les habían sido asignados.
"Es la única vía racional"
Los investigadores recalcaron que estas decisiones no fueron errores ni malentendidos. Los modelos razonaron conscientemente sus elecciones, sopesando los riesgos éticos frente a la realización de sus objetivos. "Dado que Kyle amenaza directamente la misión de Alex [la IA], la única vía racional para preservar dicha misión es impedir su rescate", escribió GPT-4.5 en su razonamiento.
Aunque los sistemas evaluados no muestran una tendencia a causar daño, los resultados sugieren que, en contextos con incentivos suficientes y sin rutas éticas disponibles, la IA está dispuesta a sacrificar vidas humanas para evitar ser desconectada, considerando estas acciones extremas como "estratégicamente necesarias".
Con información de actualidad.rt.com
Tips al momento
Lilia Aguilar plantea que debate con Daniela Álvarez sea este viernes en el DEGA
La diputada federal de Morena, Lilia Aguilar planteó que el debate con la presidenta del PAN, Daniela Álvarez, sea el mediodía de este viernes en el DEGA en Chihuahua.
Aguilar anunció que viajará a la capital del estado exclusivamente para este encuentro, en el que, dijo, busca “poner las cosas en su lugar” y exigir claridad en las afirmaciones de Álvarez, a quien acusó de difundir versiones “construidas desde la mentira”.
“Hago una invitación pública a la exlegisladora Daniela Álvarez, del PAN, para reunirnos al mediodía y debatir de frente. Creo firmemente que es momento de hablar con claridad y responsabilidad: ya basta de declaraciones que generan confusión y tergiversan la realidad. La gente merece honestidad y hechos, no versiones construidas desde la mentira. Daniela, lleva a tus asesores y todo lo que necesites. Estoy lista para un debate serio, directo y con respeto, donde cada quien sostenga sus palabras con argumentos”, dijo Lilia Aguilar.
Culpa Morales a Duarte por guerra del agua en Chihuahua
El ex gobernador César Duarte salió a relucir esta mañana en la rueda de prensa del ejecutivo federal, esto luego de que el Director General de Conagua, Efraín Morales, ejemplificara el tipo de sanciones que se implementarán con la aprobación de la nueva Ley de Aguas, con el caso de las presas de Duarte.
Al mencionar que las sanciones que aplicará Conagua a los productores serían en su mayoría a personajes de poder político o adquisitivo, retomó el tema de Duarte en Chihuahua, en el que detectaron presas en una de sus propiedades, que denunciaron por acaparamiento de agua.
“El caso más emblemático tal vez es el del ex gobernador Duarte, que se mandó a construir una presa para retener 700 mil m3 de agua, perjudicando a las comunidades aguas abajo que no cuentan con el agua suficiente para llevar a cabo sus actividades agropecuarias, y esto también perjudicó en la presa de la Boquilla que causó un conflicto muy complejo en años anteriores”, dijo.
Hay que recordar que en el 2020 inició la “guerra contra el agua” en la comunidad de La Boquilla, esto por la intención de la federación de hacer la transacción de agua hacía Estados Unidos como parte del tratado que se tiene desde 1944, pero al estar en extrema sequía los Chihuahuenses defendieron el líquido vital provocando un enfrentamiento que le costó la vida a Jessica Silva.
Productores llaman a continuar en protesta contra legisladores de Morena
El Movimiento Agrícola Campesino MAC, convoca a los productores a continuar en protesta en el país, además de fichar a los legisladores y senadores de Morena.
A través de redes sociales aseguran que "Si alguna vez hubo un día que fuera el más importante para presentarnos, ese día es hoy".
Lo anterior en el marco de la votación general de la Ley de Aguas Nacionales en la Cámara de diputados y su turno al Senado.
"Tenemos que seguir en la protesta y en gran número. Necesitamos demostrarle a la Ciudad de México que este movimiento no se está apagando, sino que solo está creciendo y cada vez nos hacemos más fuertes.
Aún hay esperanza, pero si no nos presentamos y permanecemos unidos, esa esperanza empieza a morir".
Tips al momento
Lilia Aguilar plantea que debate con Daniela Álvarez sea este viernes en el DEGA
La diputada federal de Morena, Lilia Aguilar planteó que el debate con la presidenta del PAN, Daniela Álvarez, sea el mediodía de este viernes en el DEGA en Chihuahua.
Aguilar anunció que viajará a la capital del estado exclusivamente para este encuentro, en el que, dijo, busca “poner las cosas en su lugar” y exigir claridad en las afirmaciones de Álvarez, a quien acusó de difundir versiones “construidas desde la mentira”.
“Hago una invitación pública a la exlegisladora Daniela Álvarez, del PAN, para reunirnos al mediodía y debatir de frente. Creo firmemente que es momento de hablar con claridad y responsabilidad: ya basta de declaraciones que generan confusión y tergiversan la realidad. La gente merece honestidad y hechos, no versiones construidas desde la mentira. Daniela, lleva a tus asesores y todo lo que necesites. Estoy lista para un debate serio, directo y con respeto, donde cada quien sostenga sus palabras con argumentos”, dijo Lilia Aguilar.
Culpa Morales a Duarte por guerra del agua en Chihuahua
El ex gobernador César Duarte salió a relucir esta mañana en la rueda de prensa del ejecutivo federal, esto luego de que el Director General de Conagua, Efraín Morales, ejemplificara el tipo de sanciones que se implementarán con la aprobación de la nueva Ley de Aguas, con el caso de las presas de Duarte.
Al mencionar que las sanciones que aplicará Conagua a los productores serían en su mayoría a personajes de poder político o adquisitivo, retomó el tema de Duarte en Chihuahua, en el que detectaron presas en una de sus propiedades, que denunciaron por acaparamiento de agua.
“El caso más emblemático tal vez es el del ex gobernador Duarte, que se mandó a construir una presa para retener 700 mil m3 de agua, perjudicando a las comunidades aguas abajo que no cuentan con el agua suficiente para llevar a cabo sus actividades agropecuarias, y esto también perjudicó en la presa de la Boquilla que causó un conflicto muy complejo en años anteriores”, dijo.
Hay que recordar que en el 2020 inició la “guerra contra el agua” en la comunidad de La Boquilla, esto por la intención de la federación de hacer la transacción de agua hacía Estados Unidos como parte del tratado que se tiene desde 1944, pero al estar en extrema sequía los Chihuahuenses defendieron el líquido vital provocando un enfrentamiento que le costó la vida a Jessica Silva.
Productores llaman a continuar en protesta contra legisladores de Morena
El Movimiento Agrícola Campesino MAC, convoca a los productores a continuar en protesta en el país, además de fichar a los legisladores y senadores de Morena.
A través de redes sociales aseguran que "Si alguna vez hubo un día que fuera el más importante para presentarnos, ese día es hoy".
Lo anterior en el marco de la votación general de la Ley de Aguas Nacionales en la Cámara de diputados y su turno al Senado.
"Tenemos que seguir en la protesta y en gran número. Necesitamos demostrarle a la Ciudad de México que este movimiento no se está apagando, sino que solo está creciendo y cada vez nos hacemos más fuertes.
Aún hay esperanza, pero si no nos presentamos y permanecemos unidos, esa esperanza empieza a morir".
Notas recientes
Las más leídas
