Varios estados de EU denuncian a OpenAI por riesgos en los usuarios tras casos de suicidio

AP.- OpenAI recibió una citación de varios estados como parte de una investigación sobre la seguridad de los usuarios de su chatbot, mientras se prepara para ofrecer acciones al público por primera vez.

La empresa detrás del popular chatbot ChatGPT indicó que responderá a la investigación “de manera constructiva” y que ya cuenta con medidas para proteger a sus clientes.

“La IA es una tecnología nueva y poderosa, y trabajamos todos los días para llevar sus beneficios a las personas de forma segura y responsable”, señaló un portavoz en un comunicado enviado por correo electrónico. “Nos tomamos en serio las preocupaciones planteadas por los fiscales generales estatales”.

OpenAI ha recibido críticas porque, presuntamente, ChatGPT ofreció palabras de aliento a usuarios que pensaban en suicidarse o en cometer actos delictivos. También ha sido objeto de escrutinio por la forma en que utiliza datos de salud y otra información personal de sus clientes.

El jueves, la empresa fue demandada por una canadiense que culpa al chatbot de la decisión de su hija de ahorcarse. A principios de junio, el fiscal general de Florida demandó a la empresa tras dos tiroteos separados en los que se informó que los presuntos atacantes habían hecho preguntas a ChatGPT mientras planeaban sus delitos.

OpenAI señaló en un comunicado que sus modelos alentaron repetidamente a las personas a buscar apoyo en el mundo real, incluido el de profesionales de la salud mental. La empresa también afirmó que cooperó con las fuerzas del orden en ambos casos de tiroteos.

La nueva investigación llega apenas unos días después de que la empresa presentara documentos ante los reguladores de valores de Estados Unidos para una muy esperada oferta pública inicial de acciones.

El rival de inteligencia artificial SpaceX celebró su propia oferta pública inicial el viernes. El fabricante de cohetes fundado por Elon Musk también opera un negocio de IA responsable de un chatbot rival llamado Grok.

La manera en que los gobiernos deberían responder al potencial de beneficios y a los posibles peligros de la IA se está convirtiendo en un gran tema político.

Organismos reguladores de Europa abrieron investigaciones sobre Grok, de Musk, por contenido antisemita y material sexualizado, incluidos desnudos deepfake. Y Anthropic, otra empresa de chatbots que se prepara para una oferta pública inicial, recibió el viernes instrucciones del gobierno de Trump para cerrar dos de sus modelos en línea a usuarios en el extranjero por razones de seguridad nacional.

La citación a OpenAI fue reportada anteriormente por The Wall Street Journal.

El sábado, The Associated Press envió correos electrónicos a una docena de fiscales generales estatales para pedir detalles de la investigación, pero no ha recibido respuestas.

En su comunicado, OpenAI destacó medidas que ha tomado para mantener a salvo a los niños que usan su chatbot.

“El ChatGPT de hoy incluye una experiencia más protectora para los menores y las personas que atraviesan situaciones difíciles, con salvaguardas que los dirigen a recursos del mundo real y a contactos humanos de confianza”, se indica en una parte del comunicado. “Creemos que a los niños se les debe tratar como niños, por eso incorporamos predicción de edad, lanzamos herramientas para padres para orientar el uso de la IA por parte de sus hijos y prohibimos la publicidad dirigida a menores”.

Con información de: LatinUs.