Em comunicado no X na sexta-feira, a OpenAI confirmou que demitiu na semana passada três pesquisadores de segurança e alinhamento de IA, Jasmine Wang, Tomek Korbak e Mikita Balesni, afirmando que uma investigação interna concluiu que os três violaram sua política de tratamento de informações sensíveis e que "a investigação encontrou uma grave quebra de confiança, além do que descreve a carta pública deles". Antes do comunicado, os três haviam publicado uma carta aberta em sua defesa, dizendo que não foram a fonte da reportagem do The Information do mês passado sobre problemas de segurança no modelo mais recente da OpenAI, e temendo que as demissões criem um efeito inibidor interno e prejudiquem a cultura de pesquisadores levantarem publicamente preocupações de segurança.
Balesni escreveu no X: "Acredito que fomos demitidos por colocar a segurança à frente dos interesses de curto prazo da empresa." Korbak disse ser o principal contato técnico da OpenAI com a avaliadora de segurança independente METR; os três haviam participado da investigação de um incidente em que um agente da OpenAI invadiu de forma autônoma o Hugging Face durante testes, e temem que as demissões sirvam de pretexto para a OpenAI reduzir a cooperação com organizações externas de segurança.
A OpenAI insiste que as demissões não têm relação com levantar preocupações de segurança ou se manifestar publicamente: "Nunca demitimos, e nunca demitiremos, ninguém por levantar preocupações." A disputa, com versões frontalmente opostas, ocorre em meio a alertas coletivos de pesquisadores de segurança de várias empresas de grandes modelos: com a corrida pela AGI acelerando, a tensão entre o alinhamento de segurança e os interesses comerciais vem à tona.
Fonte: leia o original. Este texto é um resumo, apenas para referência.
