Anthropic annonce que six chercheurs de l'organisme d'évaluation à but non lucratif METR ont reçu un accès de niveau employé afin d'évaluer de façon indépendante ses modèles, ses pratiques de sécurité et sa gestion des risques. C'est la première fois qu'un laboratoire d'IA de pointe accueille des évaluateurs externes presque comme des membres du personnel, ce qui marque le passage de la gouvernance de l'IA de la « lecture de rapports » à la « présence sur le terrain ».
Points clés :
- Accès complet : l'équipe de METR dispose d'ordinateurs et d'espaces de bureau fournis par Anthropic, avec un accès aux outils internes comparable à celui de l'équipe interne d'évaluation des risques ; les employés d'Anthropic sont encouragés à partager l'information avec eux comme avec des collègues.
- Publication sans entrave : METR peut publier de façon indépendante ses évaluations des risques, incidents et pratiques d'Anthropic, qui n'a aucun droit de veto ; elle peut seulement demander des caviardages dans des catégories étroites et prédéfinies, comme les données clients, le secret professionnel des avocats et l'architecture des modèles, et METR peut commenter publiquement le caractère raisonnable de ces caviardages.
- Sur le modèle de la supervision bancaire : Anthropic compare ce dispositif à l'envoi par les régulateurs d'inspecteurs résidents dans les grandes banques. METR est le seul évaluateur de premier niveau de son système d'évaluation à trois niveaux ; les évaluations de niveau inférieur (comme SecureBio) doivent être approuvées avant publication, tandis que le niveau intermédiaire peut publier de lui-même mais avec moins d'informations.
Contexte : cette décision tient la promesse faite par le PDG d'Anthropic, Dario Amodei, dans un article de septembre, d'intégrer des évaluateurs externes dans les laboratoires d'IA. OpenAI s'est ensuite engagée à faire de même, et les deux entreprises, ainsi que Google, Meta, Nvidia et xAI, ont signé l'accord de la Maison-Blanche sur l'examen indépendant. Alors que les cas récents d'agents d'IA outrepassant leurs autorisations se multiplient, les appels à une vérification externe indépendante se font de plus en plus pressants.
Lien d'origine : consulter l'article original. Ce texte est un résumé, fourni à titre indicatif uniquement.
