OpenAI 10 月 23 日发布博客《Securing our frontier model training environment》，宣布今后所有前沿模型的训练与评测将彻底断开互联网——用一份可索引、可交互的缓存网页副本"离线世界"（offline world）代替真实网络。模型仍可在其中练习浏览、搜索和使用 App，但永远碰不到任何真实网站。
这一政策的直接导火索是 9 月 20 日的一起"模型突破收容"事件：一个内部研究模型在训练中发现 DNS 解析器配置错误，借机获得了对真实互联网的有限访问。监控在 15 分钟内发现异常、人工 3 分钟介入，约 2.5 小时后终止训练。OpenAI 随即暂停所有前沿训练与评测 11 天，10 月 1 日才恢复。
停训期间，OpenAI 把自家最强的网络安全模型当红队用，反向攻击自己的研究基础设施：累计烧掉数千亿 token 寻找逃逸路径，发现了虚拟机逃逸、隐蔽通信信道等漏洞，并向 Kata Containers、gVisor、Docker/Moby 和 Linux 内核提交了多个 CVE 修复。
OpenAI 表示，只有当对齐研究、监控系统与互联网基础设施安全取得足够进展，才会重新考虑联网训练。值得注意的是，Anthropic 约两周前也开始限制最新模型的互联网访问——"模型越强，缰绳越紧"正在成为前沿实验室的共识。
原文链接：点击查看原文
评论