Em 13 de outubro, a Comissão de Empresas, Inovação, Ciência e Comércio do Parlamento britânico realizou uma audiência sobre segurança da IA. Representantes da OpenAI e da Anthropic pediram publicamente, algo raro, que os modelos de fronteira sejam regulados por lei vinculante, por considerarem que os compromissos voluntários do setor já não bastam para garantir a segurança da IA.
Os principais pontos são os seguintes:
- Apoio a um marco legal: O responsável da Anthropic para a Europa disse sem rodeios que “as regras devem ser vinculantes”, avaliando que os compromissos voluntários ficam muito aquém; um vice-presidente da OpenAI também apoiou um marco legal e uma convenção internacional, com a notificação obrigatória de incidentes como primeiro elemento.
- Compromisso com um “botão de emergência”: As duas empresas se comprometeram a retirar imediatamente um modelo, suspender sua implantação ou pausar seu treinamento caso o MI5, o MI6, o GCHQ ou o Instituto de Segurança de IA apresentem evidências de que ele é inseguro ou está sendo usado de forma maliciosa.
- Quatro grandes laboratórios divididos em 2 a 2: Google DeepMind e Meta se recusaram a endossar nova legislação e querem manter apenas os padrões e reguladores existentes, o que mostra que o setor está agora publicamente dividido entre autorregulação e legislação.
Os testes atuais do Instituto de Segurança de IA do Reino Unido dependem totalmente da cooperação voluntária das empresas, e o instituto não tem poder para impedir o lançamento de um modelo considerado inseguro. A audiência pode levar o Reino Unido a ser o primeiro a incluir na lei os testes independentes antes do lançamento e a notificação de incidentes, e a promover princípios compartilhados globalmente por meio de sua presidência do G20.
Fonte: ver o original. O texto é um resumo, apenas para referência.
