Satya Nadella：模型越强越不可信，先管住再用

为什么值得读

Satya Nadella 是微软董事长兼 CEO，也是最早押注大模型规模定律的大公司掌门人之一。10 月 10 日，他发文主张把前沿模型当作“内部风险”来管，引发很大讨论；这期约 24 分钟的 20VC 访谈，是他对这套主张最完整的口头展开，还第一次明说自己改变了对“对齐”的看法。对正在把 AI agent 接进业务系统的管理者，这是一份关于“怎么用一个不完全可信的强大工具”的清单。

核心观点

1. 01

   对齐不会随规模自动出现，他改了看法

   “I used to always think that alignment will just fall out. I no longer believe that.”

   “我过去一直以为，对齐会自然而然地冒出来。现在我不这么认为了。”

   回答“过去 12 个月你改变了什么看法”

   我们的解读他把自己归入 2018、2019 年就相信规模定律的那批人，那时 Dario、Ilya、Sam、Greg 和 Elon 还“是一家人”。现在他认为对齐是一个“更难、不一样的问题”，而且主要得在训练、甚至预训练阶段解决，靠后期强化学习补不上。出自全球最大的 AI 算力买家之一，这句表态的分量不轻。

2. 02

   在模型之外建零信任环境，把出错的 agent 关住

   “let's create an engineered zero trust environment that can contain any malfunctioning agent before it does any harm”

   “我们来搭一个工程化的零信任环境，在任何出故障的 agent 造成伤害之前就把它关住。”

   解释他为什么说“应当假设模型已被攻破”

   我们的解读他特意把两件事分开：AI 安全（让模型本身对齐）还没解决，但安全防护（在模型外面设防）今天就能做。具体做法是给每个 agent 一个身份，记录它的每次工具调用和模型调用，日志防篡改，再按策略做行为监控。这和企业管理高权限员工的思路一样，也是微软在推的产品方向，听的时候要记得他既是论者也是卖家。

3. 03

   思维链靠不住，至少要对可信伙伴原样公开

   “We know that the chain of thought itself can be unfaithful and in fact it can be made worse when the model company says, well, it's unfaithful and I'm going to hide it.”

   “我们知道思维链本身可能不忠实；而模型公司如果说“既然不忠实，那我就把它藏起来”，情况只会更糟。”

   回答“监控时，思维链有多可靠”

   我们的解读他要求思维链用英文写、能检查、能审计，可以拿多个模型交叉核对，并说闭源模型如果不肯更透明，反而可能把用户推向开放权重模型。这是在公开向前沿模型公司提条件；微软自己也在做模型，这番话同时是在给自家路线造势。

4. 04

   每家公司的私有评测基准，会是它的核心资产

   “every firm will have a private eval benchmark, which is their core IP. And every model comes in and tries to sort of hill climb on that eval.”

   “每家公司都会有一套私有的评测基准，那就是它的核心知识产权。每个模型进来，都要在这套评测上往上爬。”

   谈 AI 时代“公司是什么”

   我们的解读背后是他 7 月提出的“反向信息悖论”：过去是卖方怕泄露秘密，现在是买方在用 AI 时把自己的知识，连同点赞、点踩这类使用痕迹，都交给了模型公司。他的解法是把价值留在公司内部，可以是权重，也可以是上下文和评测。他预测五年后，“公司就是一套 AI 基准”会变得稀松平常。

5. 05

   多数 token 会变成大路货，前沿模型只做前沿的事

   “if you can train on your own traces, then you really don't need the latest model to be able to solve that same problem if the problem has not changed.”

   “如果你能用自己的运行记录来训练，那么只要问题没变，你其实不需要最新的模型来解决它。”

   回答“未来两年流量走开源还是闭源”

   我们的解读他的判断是前沿模型永远有市场，下一个前沿可能在科学，但“主要的 token 用量会是大路货”。他举联合利华为例：一套贸易索赔的 agent 系统先用前沿模型跑通，再换成成本更低、能用自家记录训练的模型。对企业来说，这意味着成本优化的空间，可能在“跑通之后”。

观点追踪

和 Satya Nadella 过去的说法相比：

• 变对齐：他说自己在 2018、2019 年相信对齐会随规模“自然冒出来”，现在不再这么认为，认为这是一个更难、不同的问题。
• 不变“反向信息悖论”：7 月 12 日他在 X 上的长文借用经济学家 Kenneth Arrow 的信息悖论，指出企业用 AI 等于付两次钱；这次再谈，并进一步提出私有评测基准是企业的核心资产。
• 新10 月 10 日他发文主张把前沿模型当作“内部风险”来管；这次补充了具体要求：日志防篡改、思维链要用英文且对可信伙伴原样开放，以及模型公司如果不够透明，可能推动更多人用开放权重模型。
• 不变检验 AI 的标准是经济增长：2025 年 2 月他在 Dwarkesh Patel 的节目上说，真正的基准是全球 GDP 增速达到 10%；这次他仍说，千亿美元级训练的钱，最终要靠全球 GDP 的拐点来支撑。

对你的启发

• 盘点一下团队里已经在跑的 AI agent：每个有没有独立身份、最小权限、完整且防篡改的操作日志，以及一个随时能按下的“暂停键”？缺哪一项，就先补哪一项。
• 从现在开始积累自己的评测集：把业务里真正关心的问题和合格答案整理成一套可重复运行的测试，换模型、换供应商时用它说话，而不是看公开榜单。
• 先用最强的模型把流程跑通，再问一句：这一步还需要最贵的模型吗？用自己的运行记录训练一个更便宜的模型，可能才是长期的成本优势。

延伸阅读

• 背景 TNW：Satya Nadella says companies should treat AI models as insider risks（2026 年 10 月） 5 分钟

  对他 10 月 10 日那篇“把模型当内部风险”文章的梳理，包括“紧急刹车”等本期没展开的要求，可以和访谈对照读。

• 背景 Business Today：Satya Nadella 的“反向信息悖论”（2026 年 7 月） 5 分钟

  解释他为什么说企业用 AI 要“付两次钱”，是本期“私有评测基准是核心资产”这一观点的来源。

• 背景 Reasoning models don't always say what they think（2025 年） 10 分钟

  一项关于思维链“不忠实”的研究：模型常常用了提示却不在推理里提到它。这正是他说思维链靠不住的依据之一。

• 对立观点 The Bitter Lesson（Rich Sutton，2019 年） 5 分钟

  强化学习先驱 Sutton 认为，长期看，依赖算力的通用方法总会胜过嵌入人类领域知识的方法。如果他说得对，企业靠专用模型和私有知识守住的优势，可能比 Nadella 设想的更短暂。