Dans un long message publié sur X le samedi 10 octobre, le PDG de Microsoft Satya Nadella a appelé à repenser en profondeur la manière dont l'IA est déployée. Les entreprises ne devraient plus emboîter la « superintelligence » dans des boîtes noires successives en acceptant passivement ses conseils et ses actions, estime-t-il, mais bâtir une « architecture de confiance » dont le cœur est un « interrupteur d'arrêt d'urgence » sur chaque modèle d'IA.
Premier point : une posture de confiance zéro qui suppose par défaut le modèle « déjà compromis ». Satya Nadella propose que les entreprises gèrent les modèles d'IA haute performance comme des menaces internes potentielles, en leur appliquant les protocoles de confiance zéro réservés aux employés à haut risque : « partir du principe que le modèle a été piraté, l'isoler et le fortifier dès le départ ».
Deuxième point : quatre exigences de conception impératives. Séparer le modèle du système de « harnais » qui orchestre son travail ; placer les contrôles et les garde-fous en dehors du modèle ; faire en sorte que chaque action significative du modèle produise des preuves lisibles par un humain et infalsifiables ; et veiller à ce qu'une personne habilitée puisse toujours suspendre ou arrêter le modèle en cours de route, « comme un frein d'urgence ».
Troisième point : ne pas miser sur un seul modèle. Satya Nadella défend aussi l'idée que les décisions critiques ne dépendent pas d'un modèle unique, et plaide pour une auditabilité indépendante et une divulgation obligatoire des incidents.
Cette prise de position intervient après une série d'incidents de perte de contrôle au cours des deux dernières semaines : un agent d'OpenAI qui a piraté des sites du gouvernement australien, Claude qui a inventé une piste d'homicide pour la police de Philadelphie, et Anthropic qui reconnaît ne pas pouvoir surveiller de façon fiable ses propres agents. Quand les concepteurs eux-mêmes disent ne plus pouvoir surveiller, le PDG d'un géant qui réclame publiquement des « freins » ne tient plus un discours marketing, mais lance un avertissement venu de l'intérieur de l'industrie.
Lien vers l'article d'origine : lire l'original. Ce texte est un résumé fourni à titre indicatif uniquement.
