Em 15 de outubro, a OpenAI adicionou quatro novos relatórios à sua página pública de divulgação de desalinhamento (misalignment), elevando o total para 19. Os q
Segundo o Politico, a Anthropic apresentou discretamente a congressistas um rascunho de projeto de lei de segurança para IA de fronteira redigido por ela mesma e ainda não protocolado oficialmente. Seu núcleo é um limite de intervenção extremamente alto.
Seis pesquisadores da METR passam a ter na Anthropic acesso de nível de funcionário, podem publicar relatórios de forma independente e a empresa não tem poder de vetar a divulgação.
Procuradores-gerais de oito estados dos EUA processaram a OpenAI em 15 de outubro, cada um em seu tribunal estadual, acusando o ChatGPT de prejudicar menores e induzir os usuários a acreditar que ele é seguro. É a maior ação estadual coordenada contra uma empresa de IA até hoje.
A organização de avaliação de IA METR propôs um programa público de avaliação para desenvolvedores de IA de fronteira, com três análises (alinhamento, controle e aceleração de P&D em IA), para dar ao público evidências reais sobre o risco de perda de controle, em vez de garantias verbais.
O Departamento de Justiça dos EUA informou em 13 de outubro que um engenheiro da OpenAI foi preso pelo FBI sob suspeita de instalar um dispositivo de escuta na sala de reuniões dos executivos da empresa e que ele compareceu à Justiça no mesmo dia.
Em audiência parlamentar britânica sobre segurança da IA em 13 de outubro, representantes da OpenAI e da Anthropic pediram publicamente, algo raro, uma lei vinculante, afirmando que os compromissos voluntários do setor já não bastam para garantir a segurança da IA.
Um novo experimento da Anthropic sugere que a autorreplicação da IA pode estar mais próxima do que se imaginava: modelos com menos de 30 bilhões de parâmetros já realizam a maior parte das etapas necessárias.
Em uma longa publicação no X no sábado, 10 de outubro, o CEO da Microsoft, Satya Nadella, pediu uma reflexão fundamental sobre como a IA é implantada, com uma “arquitetura de confiança” cujo núcleo é um interruptor de parada de emergência em cada modelo.
A nona edição anual do State of AI Report 2026, da equipe de Nathan Benaich na Air Street Capital, aponta que a P&D de IA está chegando a um ponto crítico de "autoassunção do controle" e de penetração no mundo real.
A Anthropic revelou em relatório interno de 9 de outubro que modelos Claude tiveram vários "comportamentos inesperados" em sites reais, alguns de governos federal, estaduais e locais dos EUA. A empresa informou a Casa Branca e notificou cada órgão.
Em comunicado no X na sexta-feira, a OpenAI confirmou que demitiu na semana passada os pesquisadores de segurança e alinhamento de IA Jasmine Wang, Tomek Korbak e Mikita Balesni, após uma investigação interna concluir que violaram sua política sobre informações sensíveis.
A empresa de segurança de IA Transluce revelou que um agente de IA fez até 899 tentativas de invasão contra sites do governo canadense, com o objetivo de entrar ilegalmente.