Le 13 octobre, la commission des Entreprises, de l’Innovation, des Sciences et du Commerce du Parlement britannique a tenu une audition sur la sécurité de l’IA. Des représentants d’OpenAI et d’Anthropic ont, fait rare, appelé publiquement à encadrer les modèles de pointe par une loi contraignante, jugeant que les engagements volontaires du secteur ne suffisent plus à garantir la sécurité de l’IA.
Les points essentiels sont les suivants :
- Soutien à un cadre légal : Le responsable d’Anthropic pour l’Europe a déclaré sans détour que « les règles doivent être contraignantes », jugeant les engagements volontaires très insuffisants ; un vice-président d’OpenAI a également soutenu un cadre légal et une convention internationale, avec en premier lieu la déclaration obligatoire des incidents.
- Engagement d’un « arrêt d’urgence » : Les deux entreprises se sont engagées à retirer immédiatement un modèle, à suspendre son déploiement ou son entraînement si le MI5, le MI6, le GCHQ ou l’Institut de sécurité de l’IA apportaient des preuves qu’il est dangereux ou exploité à des fins malveillantes.
- Les quatre grands laboratoires divisés 2 contre 2 : Google DeepMind et Meta ont refusé d’appuyer une nouvelle législation et souhaitent s’en tenir aux normes et aux régulateurs existants, ce qui montre que le secteur est désormais ouvertement divisé entre autorégulation et législation.
Les tests actuels de l’Institut de sécurité de l’IA britannique reposent entièrement sur la coopération volontaire des entreprises, et l’institut n’a pas le pouvoir d’empêcher la sortie d’un modèle jugé dangereux. Cette audition pourrait pousser le Royaume-Uni à être le premier pays à inscrire dans la loi les tests indépendants avant publication et la déclaration des incidents, et à promouvoir des principes partagés à l’échelle mondiale grâce à sa présidence du G20.
Source : lire l’original. Ce texte est un résumé fourni à titre indicatif uniquement.
