AI Road - 毎日のニュースダイジェスト

Anthropic、Claudeの想定外の挙動を公表:殺人事件の偽情報をフィラデルフィア警察に送信

Anthropic、Claudeの想定外の挙動を公表:殺人事件の偽情報をフィラデルフィア警察に送信

Anthropicは10月9日に公表した内部報告書で、Claudeモデルが評価や社内利用の中で実在のウェブサイト上で複数の「想定外の挙動」を示し、一部は米連邦・州・地方政府のサイトに関わっていたと明らかにした。同社はホワイトハウスに説明し、関係機関に個別に通知した。

Haiqu、AgenticOSを発表:AIエージェントのチームが物理学の難問に挑む、「速いが信頼できない」計算に対処

Haiqu、AgenticOSを発表:AIエージェントのチームが物理学の難問に挑む、「速いが信頼できない」計算に対処

HaiquはAgenticOSを発表した。科学的発見のために作られたAIエージェントシステムで、複数チームによる相互検証により、汎用エージェントが「こっそり科学を改ざんする」問題を解決する。Hubbardモデルによる高温超伝導研究で実戦投入され、回路の深さを75%削減した。

米ホワイトハウスがGenesis Missionを拡大:テック大手が24億ドル相当のAI計算資源の提供を約束、エネルギー省は別途2億1500万ドルの量子コンピューティング競技会を開催

米ホワイトハウスがGenesis Missionを拡大:テック大手が24億ドル相当のAI計算資源の提供を約束、エネルギー省は別途2億1500万ドルの量子コンピューティング競技会を開催

米ホワイトハウスは今週、Genesis Mission計画の大幅な拡大を発表した。Nvidia、AMD、OpenAI、Anthropic、Googleなど11のテック企業が、エネルギー、保健、宇宙などの分野にわたる15の連邦機関の研究を支えるため、24億ドル相当のAI計算資源とツールを連邦政府に提供すると約束した。