Selon Politico, Anthropic a discrètement présenté à des élus du Congrès américain un projet de loi sur la sécurité de l'IA de pointe rédigé par ses soins, qui n'a pas encore été officiellement déposé. Un porte-parole d'Anthropic indique que le texte reflète les positions de l'Advanced AI Framework, publié par l'entreprise plus tôt cette année.
Le cœur du projet est un seuil d'intervention extrêmement élevé : le gouvernement ne pourrait interrompre la diffusion ou l'utilisation d'un modèle que s'il présente un risque prévisible et imminent de pertes supérieures à 1 milliard de dollars, ou de décès ou de blessures graves pour au moins 50 personnes, et ce risque doit relever de l'un de trois cas : armes biologiques, contournement par le modèle de ses propres contrôles de sécurité, ou cyberattaques. Pour la mise en œuvre, des évaluateurs indépendants devraient s'enregistrer auprès du département du Commerce et évaluer régulièrement les modèles de pointe, en signalant sous 72 heures tout risque imminent identifié ; le département du Commerce pourrait demander à un juge fédéral de suspendre un modèle, et aucun autre département ne pourrait le faire de sa propre initiative.
S'agit-il d'une autolimitation responsable, ou d'une manière de verrouiller d'avance un cadre législatif favorable à l'entreprise ?
Lien d'origine : consulter l'article original. Ce texte est un résumé, fourni à titre indicatif uniquement.
