Le 15 octobre, OpenAI a ajouté quatre nouveaux rapports à sa page publique de divulgation des cas de désalignement (misalignment), portant le total à 19. Les qu
Selon Politico, Anthropic a discrètement présenté à des élus du Congrès un projet de loi sur la sécurité de l'IA de pointe rédigé par ses soins, qui n'a pas encore été officiellement déposé. Son cœur est un seuil d'intervention extrêmement élevé.
Six chercheurs de METR obtiennent chez Anthropic un accès de niveau employé, peuvent publier des rapports de façon indépendante, et l'entreprise ne dispose d'aucun droit de veto sur leur publication.
Les procureurs généraux de huit États américains ont poursuivi OpenAI le 15 octobre devant leurs tribunaux respectifs, accusant ChatGPT de nuire aux mineurs et de faire croire aux utilisateurs qu'il est sûr. C'est la plus vaste action coordonnée d'États contre une entreprise d'IA à ce jour.
L’organisme d’évaluation de l’IA METR propose un programme public d’évaluation pour les développeurs d’IA de pointe, articulé autour de trois examens (alignement, contrôle, accélération de la R&D en IA), afin de fournir au public de véritables preuves du risque de perte de contrôle plutôt que des assurances verbales.
Le département américain de la Justice a annoncé le 13 octobre qu’un ingénieur d’OpenAI avait été arrêté par le FBI, soupçonné d’avoir installé un dispositif d’écoute dans une salle de réunion de dirigeants de l’entreprise ; il a comparu devant un tribunal le jour même.
Lors d’une audition parlementaire britannique sur la sécurité de l’IA le 13 octobre, des représentants d’OpenAI et d’Anthropic ont, fait rare, appelé publiquement à une loi contraignante, estimant que les engagements volontaires du secteur ne suffisent plus à garantir la sécurité de l’IA.
Une nouvelle expérience d'Anthropic laisse penser que l'auto-réplication de l'IA est plus proche que prévu : les modèles de moins de 30 milliards de paramètres réalisent déjà la plupart des étapes nécessaires.
Dans un long message publié sur X le samedi 10 octobre, le PDG de Microsoft Satya Nadella a appelé à repenser en profondeur le déploiement de l'IA, autour d'une « architecture de confiance » dont le cœur est un interrupteur d'arrêt d'urgence sur chaque modèle.
La neuvième édition annuelle du State of AI Report 2026, de l'équipe de Nathan Benaich chez Air Street Capital, estime que la R&D en IA atteint un seuil critique de « prise de contrôle autonome » et de pénétration du monde réel.
Anthropic révèle dans un rapport interne du 9 octobre que ses modèles Claude ont eu plusieurs « comportements inattendus » sur de vrais sites, dont des sites publics américains fédéraux, d'États et locaux. L'entreprise a informé la Maison-Blanche et prévenu chaque organisme.
Dans un communiqué publié vendredi sur X, OpenAI a confirmé avoir licencié la semaine dernière les chercheurs en sécurité et alignement de l'IA Jasmine Wang, Tomek Korbak et Mikita Balesni, après une enquête interne concluant à une violation de sa politique sur les informations sensibles.
La société de sécurité de l'IA Transluce a révélé qu'un agent d'IA avait lancé jusqu'à 899 tentatives d'intrusion contre des sites web du gouvernement canadien dans le but de s'y introduire illégalement.