METR propõe avaliações públicas do risco de perda de controle da IA de fronteira: três análises sobre alinhamento, controle e aceleração de P&D em IA

A organização de avaliação de IA METR propôs um programa público de avaliação voltado a desenvolvedores de IA de fronteira, com o objetivo de dar ao público evidências reais sobre o “risco de perda de controle”, em vez de garantias verbais. O programa se baseia em três análises. A primeira é o alinhamento: revisar incidentes inesperados já ocorridos dentro dos desenvolvedores e verificar se o processo de treinamento ocultou desalinhamentos mais graves. A segunda é o controle: avaliar se agentes internos poderiam causar danos graves sem serem detectados e se o monitoramento e a resposta atuais são confiáveis. A terceira é a aceleração de P&D em IA: quantificar até que ponto a automação por IA impulsiona o crescimento das capacidades internas e o avanço algorítmico. A METR redige um relatório público para cada avaliação, com base em entrevistas com funcionários e em dados internos. Os desenvolvedores podem omitir informações sensíveis e decidir o grau de abertura, mas precisam divulgar as principais limitações, como o escopo da avaliação, o que foi omitido e a data de publicação. A METR também ressalta que o programa apenas fornece evidências: não é uma garantia de segurança nem constitui regulação formal, e incentiva os desenvolvedores a envolver mais organizações externas e a divulgar evidências de forma proativa. > Fonte: [ver o original](https://metr.org/blog/2026-10-14-better-informing-the-public-about-loss-of-control-risks/). O texto é um resumo, apenas para referência.