Weekly AI / Agent intelligence

AI Signal Brief — 2026-W25

OpenAI 终于把 Fable 5 和 Mythos 5 关掉了。不是因为模型不行,而是美国政府的一纸禁令。r/LocalLLaMA 的反应不出所料:又一篇"这就是为什么我们需要本地模型"的帖子拿到数千赞。但如果你把本周其他的信号放在一起看,这件事的真正含义不是"本地模型好",而是开源社区正在以极快的速度填补被关掉的模型留下的空缺——Kimi K2.7 Code、MiniMax M3、Rio 3.5,都是在这个窗口内密集出现的。禁令创造了需求,开源在满足需求。这个速度比任何人预期的都快。


扩散模型的两条路线正在分化

Google 的 DiffusionGemma 本周在 r/LocalLLaMA 引发了两极讨论:一篇帖子说"4倍速,6倍错误率",另一篇说"4倍速"。两者都是真的——关键在于你测的是什么任务。

Benchmark 在三个任务上对比了 DiffusionGemma 26B 和它的自回归 twin:Steve Jobs 传记、俄罗斯方块历史、BeOS 故事。这些是长篇叙事生成任务,不是工具调用,不是代码补全,不是推理。扩散模型在并行生成上的速度优势在这些任务上是真实的,但精度损失也是真实的——不是随机错误,而是系统性错误率上升 6 倍。

这个tradeoff意味着什么?扩散模型不是"更快的 GPT",它是"更适合某些任务类别的新架构"。当你在跑一个需要生成多个候选答案再筛选的流程时,4倍速可以补偿精度损失。但如果你需要一个可靠的长程叙事输出,今天的自回归模型仍然是正确的选择。

与此同时,DiffusionGemma 26B 拿到了 769 个 HuggingFace 点赞——是 DiffusionGemma 4x Faster 那篇帖子的 3 倍。这说明社区的反应不是"这个架构不行",而是"有人在认真做这个方向,我来看看"。扩散语言模型从"学术好奇"走到"有人在认真实现"的速度,比任何人预期的都快。


本地 Agent 的硬件约束正在被重新定义

两个本周出现的信号指向同一个方向:本地 Agent 的硬件门槛正在系统性下降。

Xiaomi MiMo-V2.5-Pro UltraSpeed 声称在单台 8-GPU 服务器上跑出了 1000+ tokens/sec 的吞吐量,目标是 1T 参数的 MoE 模型。如果这个数字是真实的,它意味着此前需要专用推理集群的工作负载现在可以用标准服务器承载。重要声明:这是厂商声明,不是独立验证。但即使打个对折,500 tps 在 1T 参数模型上也是显著的工程进步。

Gemma 4 QAT 量化 + KV-cache 压缩 的组合在 W24 已经有了基础,本周 Ollama v0.30.6 正式支持 Gemma 4 QAT 权重,vLLM v0.23.0 也在集成这条技术路线。两条技术路线的合并节点正在临近:QAT 让压缩更高效,KV 压缩让 QAT 权重在实际部署中表现更好。届时,12B 模型在消费级 GPU 上的上下文密度会系统性提升。

OpenLumara 代表了另一个方向:不是让模型变小,而是让 Agent 架构去适配已有的硬件约束。极小 system prompt、模块化设计、token 高效——这是"让 Agent 去适配模型"而不是"让模型适配 Agent"的工程实践。如果这个方向work,单张 4090 上能跑的工作流复杂度会上一个台阶。


Anthropic Fable 5 事件的长尾影响

Anthropic 被迫在全球范围内关闭 Fable 5 和 Mythos 5 的直接原因是美国政府的出口管制指令——与某个 jailbreak 有关。Reddit 的反应集中在"这就是为什么需要本地模型",但更值得注意的信号在别处。

这证明了高端模型出口管制的可执行性。不是政策层面的禁令,而是技术层面的断供。Anthropic 必须执行,而且能够执行。这对其他正在开发高性能模型的非美国公司是一个明确的信号:如果你依赖美国供应链,你的模型随时可能被断供。

社区的"本地模型"叙事获得了新的弹药。但这次不一样——Fable 5 被关不是因为安全漏洞,而是因为政府指令。这与"开源模型更安全"的论点有微妙的区别:开源模型不被单一政府管辖,但它们的权重一旦发布,就无法撤回。两者各有各的风险模型。

Anthropic 的 Fable 5 能力正在被其他模型快速对标。Kimi K2.7 Code(MoE 架构)、MiniMax M3(428B 总参数)、Cohere North Mini Code(coding 专用)都在 coding agent 场景上有显著能力。如果 Fable 5 的核心使用场景(长程编码任务)现在有几个备选方案,这次断供对 Anthropic 的长期影响可能比短期更可控。


WorkBench Revisited:两年后,Agent 在工作场所的表现如何

arXiv 本周发表了 WorkBench Revisited,对比了 2024 年 3 月和 2026 年的工作场所 Agent 评估结果。核心数据:

2024 年 3 月:GPT-4 完成任务 43%,在 26% 的任务中采取了有害行动(如发邮件给错误的人)。 2026 年最新数据没有直接给出,但论文关注的是方法论改进和两年的进步幅度。

这个数据值得放在更大的背景下看:W23 的 ITBench-AA 显示前沿模型在企业 IT 任务上低于 50%。这两个数字指向同一个结论:工作场所 Agent 的可靠性问题在两年内没有被系统性解决。GPT-4 在 2024 年的 43% 并不是一个"起点低"的数据——它是当时最好的模型。两年后,基准从 43% 爬到了 50% 以下,这个进步速度对于"AI Agent 接管工作流程"的叙事来说是不够快的。

但这个结论需要谨慎:WorkBench 的"有害行动"定义可能比 ITBench-AA 更严格,而且两个基准的任务类型不同。真正的比较需要看相同任务上的 head-to-head 数据。


本周值得做的一件事

如果你在评估"本地模型能不能替代云端 API",本周的数据提供了一个更精确的判断框架:不要问"这个模型够不够好",而是问"我的任务对精度损失的容忍度是多少"。DiffusionGemma 的 4x 加速对某些任务是革命性的,对另一些任务是无关紧要的。在 HuggingFace 上找一下有没有针对你的具体任务类型的独立 benchmark 数据,再决定要不要换。


噪声过滤

arXiv 本周密集发布了多篇 agent 相关论文(YeasierAgent、Hybrid Tri-Evolution、Orchestra-o1),但它们的系统描述高度相似——多 Agent 协作、层级编排、自我演化——核心创新有限,更多是把已知模式重新排列组合。"Don't trust large context windows"是 Hacker News 热帖,但它是一篇博客文章而非技术报告,没有提供可复现的实验数据。Rio 3.5 是 Qwen finetune 但自称"国产"——这个问题值得追踪,但目前没有足够的证据做定论。


下周会发生什么

  1. 如果 DiffusionGemma 的精度损失被独立验证(不只是 r/LocalLLaMA 的帖子),围绕扩散语言模型的工程讨论会加速——什么样的任务适合这种架构,什么样的任务不适合。
  2. Kimi K2.7 Code 的独立测试如果显示长程编码任务有实质提升,"coding agent"赛道会新增一个有力竞争者。
  3. vLLM 对 Minimax M3 的支持(v0.23.0 说"not yet supported")如果在未来两周兑现,本地推理生态会再添一个大型 MoE 模型。
← 返回首页