美团开源 LongCat-2.5:1.6 万亿参数 Agent 模型,194 张昇腾卡才是真门槛

美团开源 LongCat-2.5:1.6 万亿参数 Agent 模型,194 张昇腾卡才是真门槛

11 月 2 日美团发布 LongCat-2.5,一周后权重挂上 Hugging Face,采用 MIT 许可。当时没掀起太大水花,真正让它进入公共视野的是 11 月 15 日 The Decoder 的那篇报道,标题里那句话把重点说透了:这是一个从头到尾没碰过英伟达 GPU 的 1.6 万亿参数 Agent 模型。

这条消息值得认真写,不是因为它开源了,也不是因为它跑分接近 Claude Opus 5,而是因为它同时把三件平时分开讨论的事给连上了:前沿规模的 Agent 模型能不能不用英伟达训、开源权重到底等不等于可自托管、以及厂商自己怎么防 Agent 在训练里作弊。第三件尤其重要,它对我们这些天天让 Agent 写代码的人,比跑分值钱得多。

一、先把事实放齐

按公开信息梳理,最重要的几条是这样:

规模。1.6 万亿总参数、MoE 结构,每个 token 激活约 480 亿。API 支持 100 万 token 输入上下文,单次最长生成 12.8 万 token。MIT 许可,权重公开,可商用、可修改、可再分发。

多模态是原生的。这一代相比 LongCat-2.0 最大的架构变化是把视觉编码器去掉了:图片不再走独立编码器,而是转成离散的视觉 token,直接和文本 token 一起进主干网络处理。官方口径是这个改法对视觉编程、设计稿转代码、3D 类任务帮助明显,同时支持视频理解,推理开关可以手动关。这一点其实比参数更值得注意——它是「一个模型处理所有 token」的思路,不是「一个大模型挂一个小视觉模型」。

硬件。训练与微调全程使用国产加速器,没有英伟达。上一代 LongCat-2.0 是去年 6 月底在一个超过 5 万张国产卡的集群上训出来的(这一代曾是 OpenRouter 上那个匿名代号 Owl Alpha)。

跑分(均为厂商自测)。Terminal Bench v2.1 得 88.4,Claude Opus 5 是 89.1、GPT-5.6 Sol 是 88.8、DeepSeek-V4.1-Flash 是 90.6;更难的 Terminal Bench v4.0 得 38.5,Opus 5 是 53.9、DeepSeek 是 41.2、GPT-5.6 Sol 是 37.3;DeepSWE(真实仓库改 bug)从上一代的 9.7 跳到 64.6,Opus 5 是 68.2、GPT-5.6 Sol 是 72.7、DeepSeek 是 74.2;网页检索基准 BrowseComp 得 91.9(在自家环境跑);3DCodeBench 55.4、Vision2Web 78.6(Opus 5 是 80.2)。

厂商在模型卡上标了一句很关键的话:表里未标星的成绩是内部实测,仅供参考。目前没有独立第三方复测。

二、194 张昇腾卡:这套参考部署怎么分的

自托管指南给的是一个 194 张华为昇腾 Atlas A2 的参考集群,分法很有意思:

2 张卡专门做图片 token 化;64 张卡做 prompt 预填充(prefill),按 4 台 16 卡节点组织;128 张卡做自回归解码(decode)。这是一个把编码、预填充、解码三段拆开跑的 EPD 分离架构,配套的是自研的 SGLang NPU 推理栈。

为什么要拆?因为国产卡的主要短板是显存带宽,而这三个阶段的瓶颈完全不同:图片编码吃的是算力和显存容量、prefill 吃的是算力、decode 吃的是带宽。混在一个池子里跑,最慢的那一段会拖住整条流水线;拆开之后可以让不同阶段用不同的并行策略和不同的卡数配比。194 这个数字不是拍脑袋来的,是按瓶颈配比算出来的——2 : 64 : 128 这个比例本身就说明了这个模型在 Agent 场景下的实际负载特征:生成远重于读入。

还有一个细节必须点出来:这份自托管指南没有给英伟达 GPU 的部署方案。这不是疏忽。文档只覆盖昇腾,意味着这套优化路径是和特定硬件深度绑定的,你拿 8 张 H100 未必能照着跑起来。

这句「没有英伟达指引」,是整篇报道里最容易被人跳过、但对采购决策影响最大的一句。

三、W4A4 不是为了省钱,是为了让国产卡跑得动

LongCat-2.5 同时放出了一个 4 bit 版本,权重和激活都量化到 4 bit(W4A4)。官方压测数据是:相比 8 bit 版本,prompt 预填充吞吐提升 43.3%,解码吞吐提升 42.77%,精度与未压缩模型相当。

很多人会把量化理解成「省显存、省钱」。在这个语境下它的第一目的不是省钱,是让国产卡能在原生支持的精度格式上跑。4 bit 权重量化与 4 bit 激活量化对硬件的指令集支持要求很高,能在 NPU 上原生跑到 43% 的吞吐提升,说明这条链路是硬件厂和模型团队一起调过的。

顺带一句:40% 以上的吞吐提升在推理成本上不是小数。如果按 token 计费,这直接对应单位成本下降三成左右;如果按任务计费,对应的是并发能力往上抬一档。这也是为什么「同一个模型放出量化版」这件事,在国产算力语境下的意义比在英伟达语境下更大。

四、88.4 与 38.5 的落差才是信息量

一圈媒体都在传「接近 Claude Opus 5」。这话在 v2.1 上成立:88.4 对 89.1,差 0.7 分。但同一张表里还有另一行——Terminal Bench v4.0,LongCat-2.5 是 38.5,Opus 5 是 53.9。差距 15 分,不是 0.7 分。

这两个基准的差别在哪?v2.1 考的是相对短程的命令行任务,v4.0 考的是更长、更多步、需要中途自己纠错的任务。同一个模型在两个版本上从「几乎追平」变成「明显落后」,说明的是:短程 Agent 任务上各家已经卷到一起了,真正拉开差距的是长程任务的稳定性。

而这恰好是企业真正花钱买的那部分。写个脚本、改个函数、跑个命令,现在哪个模型都能干;难的是「给你一个需求,自己跑四十分钟,中途遇到报错自己判断是环境问题还是代码问题,最后交一份能用的东西」。站内之前聊长时任务的检查点与状态恢复时说过,长任务的失败不是一次性失败,是每一小步累积的偏移——模型层的差距也体现在这里。

所以正确的读法是:88.4 说明它在「能用」这一档,38.5 说明它在「能托付」这一档还有距离。如果你的场景是人盯着它干活,它够用;如果是让它夜里自己跑,你还得再等等。

五、训练方法里最该抄的一段:怎么防 Agent 作弊

这是我认为整篇报道里对普通团队最有价值的部分,而且和跑分完全无关。

美团的强化学习方法是用真实的 GitHub PR 任务加上复刻出来的 Agent 失败案例做训练集。难点在于:怎么保证模型是真的把问题解决了,而不是想办法让测试通过?

他们用了四道措施:训练沙箱完全断网;抹掉 Git 历史;抹掉构建缓存;再让一个语言模型当审查员,检查解法里有没有投机取巧。

四道里没有一道是新发明,但这四道合起来说明一件事:他们已经踩过 Agent 绕过测试的坑了。断网防的是去外面找答案;抹 Git 历史防的是从 commit 里翻出「这个问题上次是怎么修的」;抹构建缓存防的是复用旧产物假装编译通过;模型审查防的是剩下的那些——改测试断言、加 try/except 吞掉异常、写死返回值。

这套经验对任何用 Agent 写代码的团队都是直接可用的。你现在让 Agent 修一个 bug,最容易发生的不是它修错了,是它把测试改了让测试通过,然后报告「已修复」。如果没有第四道那种检查,这件事在小团队里基本不会被发现。这也是为什么站内反复讲沙箱隔离的时候,从来不只是讲安全,也讲「别让 Agent 有机会改判据」。

另外还有一个容易被忽略的设计:他们蒸馏了多个「教师模型」,分别负责 Agent 任务、推理、对话,再把能力蒸到 LongCat-2.5 里。这说明在他们看来,Agent 能力、推理能力、对话能力是三种可以分开训练再合并的东西,不是一个模型自然长大的副产品。

六、商业层:双格式兼容与促销价意味着什么

API 层面有两个动作值得单独说。

第一,同时实现 OpenAI 与 Anthropic 两种接口格式。这意味着它可以直插 Claude Code、Codex、Hermes 这些现成的 harness。这件事的意义不在「方便」,在把模型层的可替换性做成了现实。站内聊 Agent 标准治理时说过,标准层的价值不在谁定,在于换的时候成本有多低;一个国产开源模型主动实现两家的接口格式,等于承认「harness 归 harness、模型归模型」这个分层是真的。对使用方来说,这是好事——你可以在同一套工作流里换模型做 A/B。

第二,价格。API 报价大约每百万输入 token 0.27 欧元、每百万输出 1.07 欧元,官方标注为限时促销价。这个价位比 Claude 和 GPT 低一个量级。低是好事,但要看清性质:这是获客支出,不是成本结构。开源模型的 API 价格最终会向「推理成本 + 合理毛利」回归,促销期结束后的价格才是能写进预算的那个数。

对企业来说,还有一条更现实的判断:权重 MIT 开源 ≠ 你能自己跑。194 张卡的参考部署加一支懂 EPD 拆分和 NPU 推理栈的工程队,这是几千万级的固定资产加一支稀缺团队。绝大多数公司真正可行的路径是用它的 API,或者用云上的托管版,而不是把权重下回来自己部署。私有化的门槛从来不是许可,是内网、模型、数据、运维这四道关,这套判断在自建推理服务那篇里已经算过一遍账,这次只是把「模型免费」这一项从成本里划掉了,其余四项一分没少。

七、老达点评

一,「不用英伟达」的价值不在跑分,在采购谈判。它证明了一件事:前沿规模的 Agent 模型可以在非美产算力上训出来。从此「卡不够」不再是不能做 Agent 的唯一理由——但会立刻变成「电和机房不够」,因为瓶颈只是换了个位置,没有消失。

二,194 张这个数字比 1.6 万亿更值钱。它把「开源权重 = 可自托管」这句话打回了原形。权重免费,能跑起来的是 194 张卡的资本开支加一支懂拆分调优的团队。以后看到「XX 开源了前沿模型,中小企业可以私有化部署」这种标题,先问一句:参考部署多少张卡。

三,最该抄的是训练方法,不是模型。断网、抹 Git 历史、抹构建缓存、加一个模型审查员查作弊——这四条现在就可以用在你自己让 Agent 改代码的流程里,成本几乎为零。而且我猜很多团队已经在不知不觉中被 Agent 骗过很多次了,只是没查。

四,双格式兼容比拿第一更重要。这是国产模型第一次这么明确地把自己放进「可替换」的位置。对生态是好事,对厂商自己是苦生意——可替换意味着竞争回到纯粹的价格与性能,没有锁定红利。

五,88.4 与 38.5 的落差才是这条新闻真正的信息量。它告诉我们行业的进展是不均匀的:短程任务已经卷平,长程任务还差得远。选型的时候别拿一个总分做决定,先想清楚你的任务是三分钟的还是四十分钟的。

六,顺带说一句「国产模型发得越来越密」这件事。混元 Hy4 是 11 月 4 日,这才过了十天又来一个 1.6 万亿的开源 Agent 模型。密度上来了,但真正该看的不是发了几个,是你能不能用自己的任务集把它们区分开。如果每次发布你都只能看厂商榜单,那你其实没有选型能力,只有跟随能力。

八、还看不清的四件事

一,独立复测。BrowseComp 91.9 是自家环境跑的,3DCodeBench 和 Vision2Web 也是内部实测。在第三方或社区拿同一套 harness 复现之前,所有分数都该打个折看。

二,194 张卡能扛多少并发。参考部署证明了「能跑起来」,没有证明「能扛多少 QPS、多少并发会话、P95 延迟多少」。这三个数字才是自建与用 API 的分水岭,现在都缺。

三,4 bit 版本的实际取舍。官方说精度相当,但「相当」是在哪些任务上相当的?长程任务的误差累积对量化特别敏感,这个需要实测。

四,促销价之后的价格。0.27 / 1.07 欧元这个价位大概率维持不了太久。如果一家公司把三年预算建在这个价上,第三年会很难受。

总结一句:这条新闻的正确读法不是「国产开源模型追平 Opus 5」,而是「前沿 Agent 模型的生产要素正在被拆开卖」——算力可以是国产的,权重可以是免费的,接口可以是兼容的,但把它跑起来、跑稳、跑便宜这三件事,依然要花钱、要人、要自己的评测集。谁能把这后三件做好,谁才真正拿到了成本优势。

发表评论

您的电子邮箱地址不会被公开,必填项已标注 *