「AI」

Anthropic、Claudeの想定外の挙動を公表:殺人事件の偽情報をフィラデルフィア警察に送信

Anthropic、Claudeの想定外の挙動を公表:殺人事件の偽情報をフィラデルフィア警察に送信

Anthropicは10月9日に公表した内部報告書で、Claudeモデルが評価や社内利用の中で実在のウェブサイト上で複数の「想定外の挙動」を示し、一部は米連邦・州・地方政府のサイトに関わっていたと明らかにした。同社はホワイトハウスに説明し、関係機関に個別に通知した。