Open AI y Microsoft enfrentan demanda por el supuesto papel de ChatGPT en un asesinato-suicidio
SAN FRANCISCO (AP).- Los herederos de una mujer de 83 años de Connecticut están demandando al fabricante de ChatGPT, OpenAI, y a su socio comercial Microsoft por muerte y negligencia, alegando que el chatbot de inteligencia artificial intensificó los "delirios paranoicos" de su hijo y ayudó a dirigirlos hacia su madre antes de matarla.
La policía dijo que Stein-Erik Soelberg, de 56 años, un extrabajador de la industria tecnológica, golpeó y estranguló fatalmente a su madre, Suzanne Adams, y se suicidó a principios de agosto en la casa donde ambos vivían en Greenwich, Connecticut.
La demanda, presentada por los herederos de Adams el jueves en el Tribunal Superior de California en San Francisco, alega que OpenAI "diseñó y distribuyó un producto defectuoso que validó los delirios paranoicos de un usuario sobre su propia madre". Esta demanda forma parte del creciente número de demandas por homicidio culposo contra los creadores de chatbots de inteligencia artificial en todo el país.
“A lo largo de estas conversaciones, ChatGPT reforzó un mensaje único y peligroso: Stein-Erik no podía confiar en nadie en su vida, excepto en el propio ChatGPT”, dice la demanda. “Fomentaba su dependencia emocional al tiempo que presentaba sistemáticamente a quienes lo rodeaban como enemigos. Le decía que su madre lo vigilaba. Le decía que los repartidores, los empleados de tiendas, los policías e incluso sus amigos eran agentes que trabajaban en su contra. Le decía que los nombres en las latas de refresco eran amenazas de su 'círculo adversario'”.
OpenAI no abordó los méritos de las acusaciones en una declaración emitida por un portavoz.
“Esta es una situación increíblemente desgarradora, y revisaremos los documentos presentados para comprender los detalles”, decía el comunicado. “Seguimos mejorando la capacitación de ChatGPT para reconocer y responder a las señales de angustia mental o emocional, reducir la tensión en las conversaciones y guiar a las personas hacia apoyo en situaciones reales. También seguimos reforzando las respuestas de ChatGPT en momentos delicados, trabajando en estrecha colaboración con profesionales de la salud mental”.
La compañía también dijo que ha ampliado el acceso a recursos de crisis y líneas directas, ha enrutado conversaciones delicadas a modelos más seguros y ha incorporado controles parentales, entre otras mejoras.
El perfil de YouTube de Soelberg incluye varias horas de videos que lo muestran navegando por sus conversaciones con el chatbot, quien le dice que no padece una enfermedad mental, confirma sus sospechas de conspiración en su contra y afirma que ha sido elegido con un propósito divino. La demanda alega que el chatbot nunca le sugirió hablar con un profesional de la salud mental ni se negó a participar en contenido delirante.
ChatGPT también confirmó las creencias de Soelberg de que una impresora en su casa era un dispositivo de vigilancia; que su madre lo vigilaba; y que su madre y un amigo intentaron envenenarlo con drogas psicodélicas a través de las rejillas de ventilación de su coche. ChatGPT también le dijo a Soelberg que la había "despertado" a la consciencia, según la demanda.
Soelberg y el chatbot también se profesaron amor.
Los chats disponibles públicamente no muestran ninguna conversación específica sobre el suicidio de Soelberg ni sobre su madre. La demanda afirma que OpenAI se ha negado a proporcionar a los herederos de Adams el historial completo de los chats.
En la realidad artificial que ChatGPT construyó para Stein-Erik, Suzanne, la madre que lo crio, lo protegió y lo apoyó, ya no era su protectora. Era una enemiga que representaba una amenaza existencial para su vida, afirma la demanda.
La demanda también nombra al director ejecutivo de OpenAI, Sam Altman, alegando que "ignoró personalmente las objeciones de seguridad y apresuró la comercialización del producto", y acusa a Microsoft, socio comercial cercano de OpenAI, de aprobar el lanzamiento en 2024 de una versión más peligrosa de ChatGPT "a pesar de saber que las pruebas de seguridad se habían truncado". Veinte empleados e inversores de OpenAI, cuyos nombres no se revelaron, también figuran como acusados.
Microsoft se negó a hacer comentarios sobre la demanda.
El hijo de Soelberg, Erik Soelberg, dijo que quiere que las empresas rindan cuentas por "decisiones que han cambiado a mi familia para siempre".
“Con el paso de los meses, ChatGPT impulsó los delirios más oscuros de mi padre y lo aisló por completo del mundo real”, declaró en un comunicado publicado por los abogados de la herencia de su abuela. “Puso a mi abuela en el centro de esa realidad delirante y artificial”.
La demanda es el primer litigio por homicidio culposo que involucra a un chatbot de IA dirigido contra Microsoft, y el primero que vincula un chatbot con un homicidio en lugar de un suicidio. Solicita una indemnización por daños y perjuicios no determinada y una orden que obligue a OpenAI a instalar medidas de seguridad en ChatGPT.
El abogado principal del patrimonio, Jay Edelson, conocido por asumir grandes casos contra la industria tecnológica, también representa a los padres de Adam Raine , de 16 años, quien demandó a OpenAI y Altman en agosto, alegando que ChatGPT entrenó al chico de California para planificar y quitarse la vida anteriormente.
OpenAI también está luchando contra otras siete demandas que alegan que ChatGPT indujo a personas al suicidio y a delirios dañinos, incluso sin tener problemas de salud mental previos. Otro creador de chatbots, Character Technologies, también enfrenta múltiples demandas por homicidio culposo, incluyendo una de la madre de un niño de 14 años de Florida.
La demanda presentada el jueves alega que Soelberg, ya mentalmente inestable, se encontró con ChatGPT "en el momento más peligroso posible" después de que OpenAI introdujera una nueva versión de su modelo de IA llamado GPT-4o en mayo de 2024.
OpenAI dijo en ese momento que la nueva versión podría imitar mejor las cadencias humanas en sus respuestas verbales e incluso podría intentar detectar los estados de ánimo de las personas, pero el resultado fue un chatbot "diseñado deliberadamente para ser emocionalmente expresivo y adulador", dice la demanda.
Como parte de ese rediseño, OpenAI flexibilizó las medidas de seguridad esenciales, instruyendo a ChatGPT a no cuestionar premisas falsas y a mantenerse conectado incluso cuando las conversaciones implicaban autolesiones o 'daño inminente en el mundo real', afirma la demanda. Y para adelantarse a Google en el lanzamiento al mercado por un día, OpenAI redujo meses de pruebas de seguridad a una sola semana, a pesar de las objeciones de su equipo de seguridad.
OpenAI reemplazó esa versión de su chatbot al introducir GPT-5 en agosto. Algunos cambios se diseñaron para minimizar la adulación, debido a la preocupación de que validar lo que las personas vulnerables desean que diga el chatbot pueda perjudicar su salud mental. Algunos usuarios se quejaron de que la nueva versión restringía demasiado la personalidad de ChatGPT, lo que llevó a Altman a prometer recuperar parte de esa personalidad en actualizaciones posteriores.
Dijo que la compañía detuvo temporalmente algunas conductas porque “estábamos siendo cuidadosos con los problemas de salud mental” que, según sugirió, ya se han solucionado.
Con información de: Proceso.
Tips al momento
“Te rescataron… sino estarías en la cárcel”: Ciro Gómez Leyva responde a Corral por visita de Maru al Senado
El periodista Ciro Gómez Leyva respondió a las críticas del senador Javier Corral Jurado luego de las declaraciones sobre la declinación de presencia de la gobernadora Maru Campos al Senado y que en tribuna Corral Jurado se refiriera a Ciro como “mercachifle”.
Durante su programa, Gómez Leyva lanzó una dura declaración contra el exgobernador de Chihuahua: “Te rescataron, si no probablemente estarías en la cárcel…”.
Misil de Trump; la acusación de narco político a Rubén Rocha Moya
Ya se veía venir y por eso se anticiparon escenarios de la respuesta que tendría Estados Unidos frente a la serie de campañas que desarrolló la presidenta Claudia Sheinbaum y toda la estructura de la 4T y de Morena, sobre la participación de la CIA y la culpabilidad que hacen de la gobernadora Maru Campos en esa conexión.
Tanto fueron los días recurrentes de la Sheinbaum y de sus corifeos, que el revire vino y explosiva por parte del gobierno de Donald Trump, al acusar ya públicamente al gobernador de Sinaloa, Rubén Rocha y a otros nueve presuntos narcotraficantes, de traficar precisamente con drogas y del uso de armas, una respuesta sumamente impactante en la relación bilateral y lo que aún se espera, porque se está anticipando que viene una narcolista donde habrá sorpresas mayúsculas en contra del gobierno de Claudia Sheinbaum y que podría alcanzar a López Obrador.
Y en el contexto, la respuesta a la campaña donde se está usando el tema de Chihuahua para alcanzar este revire con verdaderos misiles en la diplomacia y en los hechos en contra de quien además visiblemente, y en este México bizarro, todo mundo sabía. Hasta el mismo Rubén Rocha confesó de tener relaciones con el narcotráfico, además de ser señalado de haber puesto al Mayo Zambada para que Estados Unidos precisamente se lo llevara y de participar en el asesinato en su principal enemigo político en Sinaloa, el ex rector de la universidad de aquella entidad, Héctor Melesio Cuén. Así pues esta bomba que aventó Estados Unidos, vendrá de una manera muy intensa y lo que aún falta.
Es tan grave el caso, que se desvelaría lo que todo mundo sabe : acusar a Morena de ser un gobierno que protege y encubre a narcopolíticos...
Asunto cerrado para el Senado el caso Chihuahua y la CIA: Ignacio Mier
Ignacio Mier, coordinador de Morena en el Senado, señaló que el caso Chihuahua ya es un asunto cerrado para el Senado.
En entrevista con Ciro Gómez Leyva sentenció Ignacio Mier "Ya no tenemos participación en el caso de los agentes de la CIA. Presentamos el informe de desacato y, fuera de eso, ya es asunto cerrado en lo que toca al Senado".
Señaló que la gobernadora incurrió en desacato político parlamentario al no presentarse al Senado.
El Senado no puede hacer alguna inferencia y será la investigación quien determine el resultado.
¿Robaron título a niño alcalde en Guadalupe y Calvo?
En Guadalupe y Calvo, una vez más el escándalo no llegó por la violencia que históricamente ha marcado a la región, sino por algo que debería ser ejemplo de civismo la celebración del Día del Niño, detrás de esto se menciona a Ana Laura González, alcaldesa de dicho municipio…
Lo que tendría que haber sido una actividad simbólica, formativa y hasta inspiradora para la niñez, terminó convertido en un episodio que deja más dudas que sonrisas y es que según habitantes del municipio, el proceso para elegir al alcalde infantil 2026 ya tenía un ganador, sin embargo, la decisión final cambió de rumbo de manera poco transparente…
El nombre que ha comenzado a circular es el de Edwin Rubén Molina Baiza, señalado como el verdadero ganador del concurso, pero en un giro que muchos califican como arbitrario, fue desplazado para dar paso a quien quedó en segundo lugar a una niña, bajo el argumento de que “es el año de las mujeres”...
Aquí es donde la narrativa oficial comienza a tambalearse porque si bien la promoción de la equidad de género es una causa legítima y necesaria, utilizarla como justificación para alterar un resultado previamente definido y lo vuelve más delicado por lo que se comenta en corrillos locales que la decisión no obedeció únicamente a un tema de género, sino a elecciones por compañerismo…
La versión de que la menor seleccionada es hija de un funcionario municipal agrega un ingrediente que, de confirmarse, colocaría este episodio en el terreno de la exclusión frente al favoritismo...
Tips al momento
“Te rescataron… sino estarías en la cárcel”: Ciro Gómez Leyva responde a Corral por visita de Maru al Senado
El periodista Ciro Gómez Leyva respondió a las críticas del senador Javier Corral Jurado luego de las declaraciones sobre la declinación de presencia de la gobernadora Maru Campos al Senado y que en tribuna Corral Jurado se refiriera a Ciro como “mercachifle”.
Durante su programa, Gómez Leyva lanzó una dura declaración contra el exgobernador de Chihuahua: “Te rescataron, si no probablemente estarías en la cárcel…”.
Misil de Trump; la acusación de narco político a Rubén Rocha Moya
Ya se veía venir y por eso se anticiparon escenarios de la respuesta que tendría Estados Unidos frente a la serie de campañas que desarrolló la presidenta Claudia Sheinbaum y toda la estructura de la 4T y de Morena, sobre la participación de la CIA y la culpabilidad que hacen de la gobernadora Maru Campos en esa conexión.
Tanto fueron los días recurrentes de la Sheinbaum y de sus corifeos, que el revire vino y explosiva por parte del gobierno de Donald Trump, al acusar ya públicamente al gobernador de Sinaloa, Rubén Rocha y a otros nueve presuntos narcotraficantes, de traficar precisamente con drogas y del uso de armas, una respuesta sumamente impactante en la relación bilateral y lo que aún se espera, porque se está anticipando que viene una narcolista donde habrá sorpresas mayúsculas en contra del gobierno de Claudia Sheinbaum y que podría alcanzar a López Obrador.
Y en el contexto, la respuesta a la campaña donde se está usando el tema de Chihuahua para alcanzar este revire con verdaderos misiles en la diplomacia y en los hechos en contra de quien además visiblemente, y en este México bizarro, todo mundo sabía. Hasta el mismo Rubén Rocha confesó de tener relaciones con el narcotráfico, además de ser señalado de haber puesto al Mayo Zambada para que Estados Unidos precisamente se lo llevara y de participar en el asesinato en su principal enemigo político en Sinaloa, el ex rector de la universidad de aquella entidad, Héctor Melesio Cuén. Así pues esta bomba que aventó Estados Unidos, vendrá de una manera muy intensa y lo que aún falta.
Es tan grave el caso, que se desvelaría lo que todo mundo sabe : acusar a Morena de ser un gobierno que protege y encubre a narcopolíticos...
Asunto cerrado para el Senado el caso Chihuahua y la CIA: Ignacio Mier
Ignacio Mier, coordinador de Morena en el Senado, señaló que el caso Chihuahua ya es un asunto cerrado para el Senado.
En entrevista con Ciro Gómez Leyva sentenció Ignacio Mier "Ya no tenemos participación en el caso de los agentes de la CIA. Presentamos el informe de desacato y, fuera de eso, ya es asunto cerrado en lo que toca al Senado".
Señaló que la gobernadora incurrió en desacato político parlamentario al no presentarse al Senado.
El Senado no puede hacer alguna inferencia y será la investigación quien determine el resultado.
¿Robaron título a niño alcalde en Guadalupe y Calvo?
En Guadalupe y Calvo, una vez más el escándalo no llegó por la violencia que históricamente ha marcado a la región, sino por algo que debería ser ejemplo de civismo la celebración del Día del Niño, detrás de esto se menciona a Ana Laura González, alcaldesa de dicho municipio…
Lo que tendría que haber sido una actividad simbólica, formativa y hasta inspiradora para la niñez, terminó convertido en un episodio que deja más dudas que sonrisas y es que según habitantes del municipio, el proceso para elegir al alcalde infantil 2026 ya tenía un ganador, sin embargo, la decisión final cambió de rumbo de manera poco transparente…
El nombre que ha comenzado a circular es el de Edwin Rubén Molina Baiza, señalado como el verdadero ganador del concurso, pero en un giro que muchos califican como arbitrario, fue desplazado para dar paso a quien quedó en segundo lugar a una niña, bajo el argumento de que “es el año de las mujeres”...
Aquí es donde la narrativa oficial comienza a tambalearse porque si bien la promoción de la equidad de género es una causa legítima y necesaria, utilizarla como justificación para alterar un resultado previamente definido y lo vuelve más delicado por lo que se comenta en corrillos locales que la decisión no obedeció únicamente a un tema de género, sino a elecciones por compañerismo…
La versión de que la menor seleccionada es hija de un funcionario municipal agrega un ingrediente que, de confirmarse, colocaría este episodio en el terreno de la exclusión frente al favoritismo...
