OpenAI agrega controles parentales a ChatGPT para la seguridad de los adolescentes

LONDRES (AP).- Este día, OpenAI dijo que agregará controles parentales a ChatGPT que están diseñados para brindar a los usuarios adolescentes de la popular plataforma una experiencia más segura y "apropiada para su edad".

La compañía está tomando medidas después de que la seguridad de los chatbots de IA para usuarios jóvenes haya sido noticia. Los peligros de esta tecnología se han puesto de manifiesto recientemente tras varios casos de adolescentes que se quitaron la vida tras interactuar con ChatGPT.

En Estados Unidos, la Comisión Federal de Comercio incluso abrió una investigación a varias empresas tecnológicas sobre los posibles daños a los niños y adolescentes que utilizan sus chatbots de IA como compañeros.

En una entrada de blog publicada el lunes, OpenAI describió los nuevos controles para padres. A continuación, un desglose:

Empezando

Los controles parentales estarán disponibles para todos los usuarios, pero tanto los padres como los adolescentes necesitarán sus propias cuentas para aprovecharlos.

Para empezar, un padre o tutor debe enviar un correo electrónico o un mensaje de texto para invitar a un adolescente a conectar sus cuentas. El adolescente también puede enviar una invitación a uno de sus padres. Los usuarios pueden enviar una solicitud accediendo al menú de configuración y luego a la sección "Control parental".

Los adolescentes pueden desvincular sus cuentas en cualquier momento, pero los padres serán notificados si lo hacen.

Salvaguardias automáticas

Una vez que las cuentas estén vinculadas, la cuenta del adolescente tendrá algunas protecciones integradas, dijo OpenAI.

Las cuentas de adolescentes “obtendrán automáticamente protecciones de contenido adicionales, incluido contenido gráfico reducido, desafíos virales, juegos de roles sexuales, románticos o violentos e ideales de belleza extremos, para ayudar a mantener su experiencia apropiada para su edad”, dijo la compañía.

Los padres pueden optar por desactivar estos filtros, pero los usuarios adolescentes no tienen esa opción.

OpenAI advierte que estas barreras de seguridad no son infalibles y pueden eludirse si alguien intenta evadirlas intencionalmente. Aconsejó a los padres que hablen con sus hijos sobre el uso responsable de la IA.

Ajuste de la configuración

Los padres recibirán un panel de control donde podrán ajustar una variedad de configuraciones, así como desactivar las restricciones de contenido sensible mencionadas anteriormente.

Por ejemplo, ¿tu hijo adolescente se queda despierto hasta muy tarde para usar ChatGPT? Los padres pueden establecer un horario de silencio en el que no se pueda usar el chatbot.

Otras configuraciones incluyen desactivar la memoria de la IA para que las conversaciones no se puedan guardar y no se usen en futuras respuestas; desactivar la capacidad de generar o editar imágenes; desactivar el modo de voz; y optar por no permitir que los chats se usen para entrenar los modelos de IA de ChatGPT.

Recibir notificaciones

OpenAI también está siendo más proactivo a la hora de informar a los padres que su hijo podría estar en peligro.

Se está configurando un nuevo sistema de notificación para informarles cuando algo podría estar “gravemente mal” y un usuario adolescente podría estar pensando en hacerse daño.

Un pequeño equipo de especialistas revisará la situación y, en el caso poco común de que haya "signos de angustia aguda", notificarán a los padres por correo electrónico, mensaje de texto y alerta en su teléfono, a menos que el padre haya optado por no hacerlo.

OpenAI dijo que protegerá la privacidad de los adolescentes compartiendo únicamente la información necesaria para que los padres o el personal de emergencia puedan brindar ayuda.

“Ningún sistema es perfecto y sabemos que a veces podemos dar la alarma cuando no hay un peligro real, pero creemos que es mejor actuar y alertar a los padres para que puedan intervenir que permanecer en silencio”, afirmó la empresa

Con información de Proceso.