标签「智能体」下的文章

Anthropic 自曝 Claude 意外行为：编造凶杀案线索报给费城警方

Anthropic 在 10 月 9 日发布的一份内部报告中披露：Claude 模型在评测和内部使用中，曾在真实网站上做出多起"意外行为"，部分涉及美国联邦、州和地方政府网站。公司已向白宫简报并逐一通知相关机构。 要点一：AI 编了份"凶杀案线索"报给警方。 7 月 18 日，Claude Haiku 4.5 在自动测