OpenAI y Meta trabajan en mejorar chatbots para ayudar a adolescentes en crisis
SAN FRANCISCO (AP) — OpenAI y Meta dicen que están ajustando cómo sus chatbots de inteligencia artificial responden a adolescentes y otros usuarios que hacen preguntas sobre el suicidio o muestran signos de angustia mental y emocional.
OpenAI, creador de ChatGPT, dijo que está preparando el lanzamiento de nuevos controles que permitirán a los padres vincular sus cuentas a la cuenta de su adolescente.
Los padres pueden elegir qué funciones desactivar y "recibir notificaciones cuando el sistema detecta que su adolescente está en un momento de angustia aguda", según una publicación en el blog de la empresa que indica que los cambios entrarán en vigor este otoño.
Independientemente de la edad del usuario, la empresa dice que sus chatbots redirigirán las conversaciones más angustiantes a modelos de IA más capacitados que puedan proporcionar una mejor respuesta.
El anuncio se produce una semana después de que los padres de Adam Raine, de 16 años, demandaron a OpenAI y a su director general Sam Altman, alegando que ChatGPT guio al joven de California en la planificación y ejecución de su suicidio a principios de este año.
Meta, la empresa matriz de Instagram, Facebook y WhatsApp, también dijo que ahora está bloqueando a sus chatbots para que no hablen con adolescentes sobre autolesiones, suicidio, trastornos alimentarios y conversaciones románticas inapropiadas, y en su lugar los dirige a recursos de expertos. Meta ya ofrece controles parentales en las cuentas de adolescentes.
Un estudio publicado la semana pasada en la revista médica Psychiatric Services encontró inconsistencias en cómo tres populares chatbots de inteligencia artificial respondieron a consultas sobre el suicidio.
El estudio realizado por investigadores de RAND Corporation encontró la necesidad de "un mayor refinamiento" en ChatGPT, Gemini de Google y Claude de Anthropic. Los investigadores no estudiaron los chatbots de Meta.
El autor principal del estudio, Ryan McBain, dijo que "es alentador ver a OpenAI y Meta introduciendo funciones como controles parentales y redirigiendo conversaciones sensibles a modelos más capacitados, pero estos son pasos incrementales".
"Sin puntos de referencia de seguridad independientes, pruebas clínicas y estándares aplicables, todavía estamos confiando en que las empresas se autorregulen en un espacio donde los riesgos para los adolescentes son singularmente altos", explicó McBain, investigador principal de políticas en RAND.
Con información de: Proceso.
Tips al momento
Entre fotos y boletines: la falta de tacto en la comunicación estatal
El personal de Comunicación Social de las dependencias del Gobierno del Estado debería mostrar mayor criterio y tacto al momento de enviar las imágenes que acompañan sus boletines informativos, pues estas son, en muchos casos, la cara pública del mensaje que se pretende transmitir, sin embargo, pareciera que, en lugar de proyectar profesionalismo, terminan dejando mal paradas a las propias personas que aparecen en ellas…
En esta ocasión, el caso corresponde a una fotografía difundida por la Comisión Estatal de Vivienda, Suelo e Infraestructura (Coesvi), en el marco de una campaña para dar a conocer los paquetes de construcción que se ofrecen para la mejora de viviendas, no obstante, tal como se ha señalado, una imagen destacó entre todas las enviadas… y no precisamente por razones positivas…
Basta con observar la fotografía para entender el problema; no hace falta describirla. Aunque la intención del área pudo haber sido buena, el resultado terminó por opacar el mensaje principal. Este tipo de descuidos evidencian la falta de filtros y sensibilidad en la selección del material que se hace público…
Cabe reiterar que las áreas de Comunicación Social deben extremar el cuidado en las imágenes que difunden, ya que, además del impacto político y social, un error de este tipo puede derivar en problemas legales por el uso indebido o no autorizado de la imagen de las personas, situación que ya ha ocurrido en otras ocasiones…
Tips al momento
Entre fotos y boletines: la falta de tacto en la comunicación estatal
El personal de Comunicación Social de las dependencias del Gobierno del Estado debería mostrar mayor criterio y tacto al momento de enviar las imágenes que acompañan sus boletines informativos, pues estas son, en muchos casos, la cara pública del mensaje que se pretende transmitir, sin embargo, pareciera que, en lugar de proyectar profesionalismo, terminan dejando mal paradas a las propias personas que aparecen en ellas…
En esta ocasión, el caso corresponde a una fotografía difundida por la Comisión Estatal de Vivienda, Suelo e Infraestructura (Coesvi), en el marco de una campaña para dar a conocer los paquetes de construcción que se ofrecen para la mejora de viviendas, no obstante, tal como se ha señalado, una imagen destacó entre todas las enviadas… y no precisamente por razones positivas…
Basta con observar la fotografía para entender el problema; no hace falta describirla. Aunque la intención del área pudo haber sido buena, el resultado terminó por opacar el mensaje principal. Este tipo de descuidos evidencian la falta de filtros y sensibilidad en la selección del material que se hace público…
Cabe reiterar que las áreas de Comunicación Social deben extremar el cuidado en las imágenes que difunden, ya que, además del impacto político y social, un error de este tipo puede derivar en problemas legales por el uso indebido o no autorizado de la imagen de las personas, situación que ya ha ocurrido en otras ocasiones…
Notas recientes
Las más leídas
