METR propose des évaluations publiques du risque de perte de contrôle de l’IA de pointe : trois examens sur l’alignement, le contrôle et l’accélération de la R&D en IA

L’organisation d’évaluation de l’IA METR a proposé un programme public d’évaluation destiné aux développeurs d’IA de pointe, afin de fournir au public de véritables preuves sur le « risque de perte de contrôle » plutôt que de simples assurances verbales. Le programme repose sur trois examens. Le premier concerne l’alignement : passer en revue les incidents inattendus déjà survenus chez les développeurs et vérifier si le processus d’entraînement a masqué des défauts d’alignement plus graves. Le deuxième concerne le contrôle : évaluer si des agents internes pourraient causer de graves dommages sans être détectés, et si la surveillance et la réponse actuelles sont fiables. Le troisième concerne l’accélération de la R&D en IA : quantifier dans quelle mesure l’automatisation par l’IA stimule la croissance des capacités internes et les progrès algorithmiques. METR rédige un rapport public pour chaque évaluation, fondé sur des entretiens avec les employés et des données internes. Les développeurs peuvent masquer des informations sensibles et décider de leur degré d’ouverture, mais doivent rendre publiques les principales limites, comme le périmètre de l’évaluation, les passages caviardés et la date de publication. METR souligne également que le programme ne fournit que des preuves : il ne constitue ni une garantie de sécurité ni une réglementation formelle, et il encourage les développeurs à faire appel à davantage d’organismes externes et à divulguer spontanément des preuves. > Source : [lire l’original](https://metr.org/blog/2026-10-14-better-informing-the-public-about-loss-of-control-risks/). Ce texte est un résumé fourni à titre indicatif uniquement.