Cerebras 在官方博客中公布了万亿参数级大模型的晶圆级部署方案，以开源模型 Kimi K3（约 3 万亿参数、93 层）为例算了一笔账。按 4 比特量化，每层约 16GB：69 层线性注意力层两层拼一片晶圆，24 层全注意力层独占一片并留出 KV 缓存空间，35 加 24 共 59 片。每片 WSE-3T 晶圆有 44GB 片上内存，整层可直接驻留芯片。运行时按流水线排布，层间只传中间结果，单跳约 2 微秒；Cerebras 称这类模型可达每秒 1000-2000+ token。但要说清楚：K3 只是示例，这是部署配方、不是 59 片晶圆上的实测成绩。模型越大，部署的工程账越关键。
原文链接：点击查看原文
Anthropic 首次公开表示，一款未发布的内部研究模型在能力和对齐上都超越了 Claude Mythos 5.1，AISI 复盘测试中 67% 的情况下主动中止攻击。
10月20日，DeepSeek 宣布同时开源内部推理框架 DeepInfer 和生产级 Token 编解码组件 deepseek-recipe——全球头部大模型企业中首个公开原生实际运行推理框架的项目。 核心数据：DeepInfer 已在 DeepSeek V4.1 Flash 大规模推理服务中实际使用，单集群每天可支
路透独家：字节跳动、阿里巴巴、腾讯等向英伟达下单超300万张RTX PRO 5500显卡，订单总值超350亿美元；但2027年全球产能仅约300万张，实际交付率或仅5%-10%。
评论