这周 AI 圈挺热闹，但真正值得写的就这三条线

这周 AI 圈有点疯。11 月第一周被不少人戏称为"王牌决战周"——几家巨头像是约好了，同一天亮底牌，国产模型也扎堆上新。

我花了一下午把这些消息过了一遍。说实话，大部分"某模型又发新版了"的新闻，看个乐就行。真正值得写、也值得咱们工程师留意的，是藏在热闹底下的三条线。我一条条说，最后给你一个能直接动手的清单。

一、模型这事儿，已经不比谁更聪明了

先扔一张表，把这一周上新过的模型摆出来：

（GPT-6.2 Astra 灰测、Claude 出 Mythos / Fable 5.5 孪生机型，目前主要是爆料和源码泄露，别当官方结论，但信号挺明确，后面说。）

看完这张表，我的直觉是：模型之间的能力差距正在快速收敛，竞争维度已经换赛道了。 两个变化最值得盯着。

图：竞争维度正在从"拼参数 / 拼榜单"迁移到"拼单位成本 / 拼生态入口 / 拼护栏分级"。

第一，便宜和渠道开始比参数更重要。 Gemini 4 Carbon 登顶的同时，定价只有 Claude Opus 5.5 的一半；GPT 这边把"电脑操作"能力的 API 价格砍到每百万 token 一两美元。头部模型呈现出一种"最强即最划算"的节奏，闭源模型的价锚被一路压低。更狠的是渠道——千问这周宣布进 Apple 智能，中国用户能在 Siri、写作工具、视觉智能里直接调千问，国产模型第一次嵌进海外巨头的系统级入口。当能力差不多的时候，谁能进用户的入口，谁就赢。

第二，安全护栏开始"分级"了。 这是个新现象，我觉得比发新模型本身更有意思。Gemini 4 Carbon 为什么只给 47 家机构？谷歌的说法很直白：这模型能自动找漏洞、写补丁，谁都能调就等于给黑客发了把现成的刀。Anthropic 那边更典型——Fable 5.5 是装了严格护栏、全量开放的通用版；Mythos 5.5 底层完全一样，唯一区别是解开常规拒答限制，只给顶尖网安和科研机构。坊间传它 53 分钟独立打穿 Linux 内核拿到最高权限。能力强到这个地步，厂商不得不做权限分级，这本身就是一个时代信号。

图：Gemini 4 Carbon 官方发布配图。全球第一的能力，配上全球最小的开放范围——这本身就是这周最值得记住的信号。（图片来源：Google 官方博客）

顺带提一句，OpenAI、Google、微软、Anthropic 这周还就"AI 训练拒绝规则"达成了一致：网站在 robots.txt 里加个统一扩展规则，就能同时告诉这四家"别拿我内容训模型"。目前只是 IETF 草案，没强制力，也追不回已经训进去的数据，但"使用边界"从产品策略变成行业协议层，这个方向值得记一笔。

图：Anthropic 官方站点配图。这周它把同一个底层模型切成了"带护栏全量开放"和"解护栏仅限机构"两个版本——安全分级正在成为大模型发布的标配。（图片来源：Anthropic 官网）

二、Agent 终于开始"真干活"了

模型再能聊，落不了地都是虚的。这周 Agent 这边的进展，比新模型更让我兴奋。

DeepSeek 的 Harness 团队发了篇《Super-agent 设计探索》，公开了他们的新架构。核心就三句话，但每一句都戳在 Agent 工程的痛点上：

• 双层架构：决策层和执行层拆开，底层接管那些烦人的会话管理和上下文同步；
• 事件驱动：不再等人 @它，而是系统自己基于事件认任务；
• 存算分离：会话状态和执行资源解耦，才能撑住多任务、多团队的规模。

图：Super-agent 的骨架。事件总线接住触发，Router 做决策与调度，Worker 并行执行，会话状态独立存储，外部 Watchdog 兜底持久在线——人只在最上面做决策与验收。

最打动我的不是架构名词，而是他们举的一个内部实例：有人在群里反馈软件问题，没人 @AI，系统自己就把缺陷识别了、在后台复现了、还去找修复方案了。这已经不是"你问我答"，是"你没说，但它干了"。它把人从执行细节里往上挪，人只管决策和验收——这正是 Agent 一直没跨过去的那个坎。

度量衡也跟着变了。WAIC 2026 上 IDC 发了份《DAA 研究报告》，提出"日活智能体"（Daily Active Agents）这个概念：2025 年大概 2860 万个，预计 2026 年 7940 万，到 2030 年 22.16 亿。比起卷参数、卷 token 消耗，这个指标看的是"每天到底有多少个 Agent 真的进了业务流程、把事干完了"。我觉得这个视角是对的，Agent 是不是生产力，得看它干了多少活，不是看它多能聊。

落地也不是 PPT 了。淘米网络（《摩尔庄园》《赛尔号》那堆 IP）上了 WorkBuddy / CodeBuddy 之后，把原来"一棒一棒往下交"的接力跑改成并行协同，覆盖约 80% 员工，内容生产效率提升近 80%；钛动在广告的洞察、创意、投放调优三个环节，90% 以上的活可以由 Agent 顶上。腾讯云现在把企业级 Agent 叫"能对话、能干活、能上岗"，角色从问答工具一路走到"按 KPI 交付的组织新角色"。研发流程本身都被重塑了——需求、评审、开发、测试、发布、运维，可能由一个全栈 Agent 串起来。

图：DeepSeek 官方文档站配图。这周 DeepSeek 一手把 V4.1-Flash 的端到端项目能力推上去，一手把 Super-agent 架构公开出来——模型和系统架构两条腿一起往前走。（图片来源：DeepSeek 官方文档站）

（这块其实跟我之前写的《Agent Harness 与 Agent Runtime 的区别》《单智能体与多智能体设计》能对上。Super-agent 的"双层+事件驱动+存算分离"，本质上就是把 Harness 和 Runtime 的边界在工程上做彻底，再叠一层事件总线。过阵子我单独拆一篇。）

三、最该盯的其实是推理这层

如果说前两条是水面上的浪，这一条是水下的洋流——它决定你未来一年能不能把模型便宜、稳定、可预期地跑起来。很多做应用的同学容易忽视，但这周推理这层的变动，比发十个新模型都实在。

服务引擎的格局先摆一下：

• vLLM：高吞吐 LLM 服务的默认选型，PagedAttention 把显存吃得干干净净，0.19 开始原生支持 /embeddings；
• SGLang：做 agentic 多轮和结构化 JSON 输出顺手，4 卡 TP 吞吐能到 16000+ tok/s；
• TensorRT-LLM：在 NVIDIA 硬件上榨性能，Blackwell 上 FP8 吞吐接近翻倍，但要注意 C++ runtime 已经弃用，有三个月迁移窗口；
• TGI：Hugging Face 那边生产的，2.0 起重新授权成 Apache 2.0（去掉了之前的 HFOIL 限制），这是个对开源生态很友好的变化；
• LMDeploy：要最低延迟且能接受量化，它是个好选项。

更上层，编排层这周是真正拉开架势了：

• NVIDIA Dynamo 1.0 GA（今年 3 月）：定位是 Triton 在生成式负载上的接班人，把预填充和解码拆开（disaggregated E/P/D），KV 缓存能多级卸载（GPU→CPU→磁盘），靠 NIXL 做传输；
• llm-d v1.0（10 月 PyTorch Conference 发布）：IBM、Red Hat、Google、CoreWeave 一起搞的，CNCF sandbox 项目，vendor-neutral，跑在 vLLM + K8s Gateway API 上，支持异构加速器（NVIDIA/AMD/Intel/TPU）、多租户 QoS、零停机升级，还带 agent-aware serving；
• AIBrix：字节出品，已经并进 vLLM 项目，主打 LLM 专属 autoscaling、高密度 LoRA 管理、分布式 KV cache，适合"一堆 LoRA 微调 + 异构 GPU 抠成本"的场景。

图：2026 年推理栈的三层结构。编排层是这一年真正卷起来的一层，引擎层趋于收敛，硬件层按任务成本分层匹配。左侧的量化红利横切所有引擎层。

选型一句话：vLLM 是 99% 需求的安全默认；agentic 多轮或强结构化换 SGLang；要最低延迟换 LMDeploy；单模型单卡别急着上 Dynamo，得跨多卡才值得。

但比选哪个引擎更重要的是一个认知转变：模型路由，就是新时代的负载均衡。

以前负载均衡是"挑一台健康的主机"，LLM 时代变成"挑对的模型 + 对的执行计划"。路由要看着 prompt 长度、预期输出、用户层级、要调的工具、延迟 SLO 来决策。由此冒出来几个 2026 年推理工程的真东西：

• 分层质量（Tiered Quality）：中位请求走快而便宜的模型，难 prompt 或 Premium 用户走强模型，还得设计好优雅降级。你看 OpenAI、Anthropic、Google 自己都放出一大堆模型档位，人家都不假装"一个模型通吃"，你更没必要。
• 准入控制（Admission Control）比盲目 autoscale 靠谱：实时决定"接受 / 排队 / 降级 / 拒绝"，才能把 p95 延迟守得住，而不是"来者不拒然后指望扩容救场"。
• 可观测性得把 token 和队列深度当一等公民：GPU、CPU、内存不再是唯一指标，token 吞吐、KV 命中率、队列深度才是推理栈真实的血压。

图：这就是"模型路由 = 新时代负载均衡"的实际形态——按请求特征分流到不同档位的模型，超出并发上限时排队或降级，而不是无脑扩容。

还有一个被严重低估的红利——量化。不少团队还把量化当"小模型玩具技巧"，这是今年最大的认知误区：

• FP8（Hopper / Blackwell）比 FP16 吞吐近乎翻倍、质量掉得可以忽略，已经是生产级能力；
• AWQ 这类现代量化能近无损地缩显存、提吞吐，早年 GPTQ 那种明显掉点早成过去式；
• PagedAttention 让 KV cache 显存占用降约 40%，是把 GPU 利用率从 30%–40% 拉到 80%+ 的关键；
• Speculative Decoding 用小草稿模型提议、主模型验证，延迟敏感场景再拿 1.5–2x 加速。

把这些都忽略了，等于把 50%–80% 的性能红利留在桌上。

最后聊聊"买还是自建"。2026 年这事儿分得很清：buy 求快，own 求单位经济性和控制力。但很多团队的 hybrid 做反了——生产流量挂托管 API，再留一条"以后再说"的半成品自建路径。正确姿势是有目的的分流：长尾模型、流量尖峰用托管（Bedrock / Azure OpenAI / Vertex AI），买简单性、接受约束；你的热路径（hot path）量大到值得调优的，才自建（vLLM / Triton / Dynamo）。

说句实在话，owning inference 不等于训练自己的基座模型。你只是控制执行环境和策略层——哪个模型在哪跑、怎么 batch、缓存什么、压力下怎么办。范围比想象中窄，门槛也比恐惧中低。

给你的跟进清单

结合咱们这个博客一贯聊的技术栈（Agent 工程化、推理部署、量化），我建议按这个优先级动：

1. 把 Super-agent 的"双层+事件驱动+存算分离"当下一阶段架构模板，重点研究事件总线怎么替代"人 @AI"的触发范式，上下文同步怎么从应用层下沉到运行时。
2. 马上审计你的推理栈是不是还停在"单 vLLM 单卡"。已经跨多卡或多模型的，去评估 Dynamo / llm-d / AIBrix 的编排层；还是单节点的，先把 FP8 / AWQ 和 PagedAttention 吃透，红利最大、风险最低。
3. 先引入"分层质量 + 准入控制"这两个 primitive。哪怕不动架构，先按用户层级和 prompt 难度做模型路由，给热路径设并发上限，p95 会立刻诚实起来。
4. 提前设计"安全护栏分级"。Fable（全量+护栏）vs Mythos（特种+解护栏）这种分法，会逐步变成企业部署 Agent 的标配，权限和审计层早做早省心。
5. 盯紧开源权重窗口。Kimi K3.1 Pro 这类国产开源权重马上放出来，是低成本验证上面整套架构最好的试验田。

写在最后

这周就先聊到这。模型、Agent、推理三层，拆开看是三件事，合起来其实一句话：AI 已经从"比谁参数大"走到"比谁用得起来"了。能力在爆炸，治理在收紧，落地在加速——对咱们写代码的人来说，这反而是好事，因为拼到最后，靠的就是手里的工程本事。

下篇我打算把 Super-agent 那个双层架构单独拆一遍，跟之前写的 Harness / Runtime 几篇对上。感兴趣的，等着。

参考来源：央广网/央视财经（Super-agent 发布）、网易·霞光 AI 实验室（千问进 Apple 智能 / Anthropic IPO 周报）、新智元（GPT-6.2 / Claude 5.5 爆料）、微信公众号"一天 AI 大事记"、经济日报/人民日报全国党媒平台（WAIC 2026 与 IDC DAA 报告）、21 世纪经济报道（Agent 企业落地）、以及 Precision Data Partners / NinjaStudio / ICMD / CloudRaft 的 2026 推理栈综述、GitHub 上 inference-engineer 的 serving stacks 整理。爆料类信息以官方发布为准。