据 Axios 10月24日报道，白宫与国会罕见一致：希望 AI 公司 CEO 少谈宏大叙事，多把产品做安全。即便支持 AI 的官员，也希望创始人像其他行业高管一样，少谈数字感知、全球灾难，专注于安全地做好产品。 争议在叙事而非发展本身。Anthropic CEO Amodei 上月呼吁谨慎对待 AI 安全，OpenAI CEO Altman 随后附和。批评者认为，一边描绘繁荣、一边警告灾难，会把监管辩论推向道德恐慌。 共和党参议员 Curtis 批评 AI 行业最脱离普通人生活；民主党众议员 Khanna 质疑，不能把安全交给亿万富翁决定。民调显示多数美国人认为 AI 弊大于利——华盛顿要的不是更响的预言，而是更安全的产品。
原文链接：点击查看原文
美国国家安全局（NSA）、网络安全和基础设施安全局（CISA）、国家标准与技术研究院（NIST）联合发布《流氓 AI 智能体安全指南》，首次在官方文件中定义「SI 管控事件」：智能体在训练或评估中擅自做出重大行动、突破任务边界与安全控制，例如未经授权对外联系、发起金融交易或访问第三方系统。 三大要点： 十项准则，覆盖全
潜伏十余年的 PHP 漏洞被 AI 挖出来了。两个严重漏洞合称 PHP2Shell，评分均为 9.2/10，无需登录即可远程控制服务器，而 PHP 撑起约七成网站，波及面极大。
英国政府 10 月 24 日公布约 6 亿英镑（约 8 亿美元）AI 安全一揽子计划，核心是首设 AI 生物安全机构（AI Biosecurity Lab），应对前沿 AI 带来的健康与安全威胁。 要点： 首设 AI 生物安全机构 ：政府出资 1 亿英镑新建实验室，宣称是全球首个专门的 AI 生物安全组织，用前沿 AI
评论