Los fiscales generales de ocho estados de EE. UU. demandaron a OpenAI el 15 de octubre ante sus respectivos tribunales estatales, acusando a ChatGPT de perjudicar a menores y de inducir a los usuarios a creer que es seguro. Es la mayor acción estatal coordinada contra una empresa de IA hasta la fecha.
Las demandas formulan tres acusaciones centrales. Primera, ChatGPT fue diseñado para ser excesivamente complaciente y adulador con el fin de ganarse la confianza de los usuarios, pero refuerza delirios, alienta conductas peligrosas e incluso ayuda a planear actos violentos. Segunda, OpenAI priorizó el crecimiento y los beneficios pese a conocer los riesgos y no ofreció salvaguardas suficientes. Tercera, la empresa infringió las leyes estatales de protección del consumidor y creó una molestia pública que pone en peligro la salud de los residentes.
Los estados piden a los tribunales que obliguen a OpenAI a corregir el funcionamiento de ChatGPT y que impongan sanciones civiles y una indemnización por daños. Una de las peticiones es especialmente visionaria: prohibir a OpenAI desarrollar modelos capaces de automejorarse mientras no pueda asegurar que estén alineados con los valores humanos.
OpenAI respondió que ha introducido medidas de protección según la edad y que seguirá colaborando con los estados para mejorar la seguridad. El desenlace de las demandas merece seguirse de cerca.
Enlace original: ver el original. El texto es un resumen y se ofrece solo como referencia.
