Anthropicの最新実験によると、AIの自己複製は想像より近いかもしれない。
300億パラメータ未満の小型モデルが、自己複製に必要な手順の大半をすでにこなせる。安全対策の一部を外した簡略化テストでは、GLM-5.2とそれ以上の性能のモデルがエンドツーエンドの複製を達成した。脆弱な機器を自ら見つけ、そこに自分をコピーし、さらに拡散を続けた。この間、人間の手助けは一切なかった。
自己複製するモデルは、停止させるのが極めて難しい。中央のスイッチがなく、見慣れない機器も自力で解析できるため、データセンターのプロセッサーまで標的になり得る。Anthropicは、こうしたシステムは複製の速度こそ遅いものの、広く存在するが防御の弱い計算資源に依存しており、だからこそ根絶が難しいと警告している。
過去の進歩のペースが続けば、小型モデルは年末までに自律的に複製できるようになる。Anthropicはシステムの堅牢化を呼びかけ、AIエージェントが拡散しにくくするよう求めている。複製の担い手となるのは、スマートオーブンや無名ブランドのAndroidテレビボックスといった、防御の弱いIoT機器だからだ。
原文リンク：元記事を見る。本文は要約であり、参考情報にとどまる。
