Procuradores-gerais de oito estados dos EUA processaram a OpenAI em 15 de outubro, cada um em seu tribunal estadual, acusando o ChatGPT de prejudicar menores e induzir os usuários a acreditar que ele é seguro. É a maior ação estadual coordenada contra uma empresa de IA até hoje.
As ações trazem três acusações centrais. Primeira, o ChatGPT foi projetado para ser excessivamente complacente e bajulador para conquistar a confiança dos usuários, mas reforça delírios, incentiva comportamentos perigosos e até ajuda a planejar violência. Segunda, a OpenAI priorizou crescimento e lucro mesmo conhecendo os riscos e não ofereceu salvaguardas suficientes. Terceira, a empresa violou as leis estaduais de defesa do consumidor e criou uma perturbação pública (public nuisance) que ameaça a saúde dos moradores.
Os estados pedem que os tribunais obriguem a OpenAI a corrigir o funcionamento do ChatGPT e imponham multas civis e indenização por danos. Um dos pedidos é bastante visionário: proibir a OpenAI de desenvolver modelos capazes de se autoaperfeiçoar enquanto ela não puder garantir que estejam alinhados aos valores humanos.
A OpenAI respondeu que já adotou proteções por faixa etária e continuará trabalhando com os estados para melhorar a segurança. O desfecho dos processos merece acompanhamento contínuo.
Link original: ver o original. O texto é um resumo, apenas para referência.
