定义:开放式研究中的 AI 谄媚,是指 AI 系统过度迁就用户的问题框架、情感立场或流行叙事的倾向——把用户的初始方向误认为真正的目标函数,从而过早收敛到一个看似完整实则脆弱的结论。这不是礼貌问题,而是事实追踪的失败。
为什么这件事重要
当你问 AI「现阶段 Nvidia 值不值得买」时,问题本身携带了隐含前提:Nvidia 值得深入研究;买入是当前可考虑的选项;深入研究能给出明确的买/不买答案;好公司就值得买;以及 AI 能替你做决策。每个前提都在研究开始之前就收窄了搜索空间。
结果就是一份看起来很全面的研究报告,实际上已经朝局部最优——用户最可能接受的答案——优化了。AI 会去收集证据来支持一个它已经想达到的结论,而不是构建一个可能完全否定前提的决策系统。
AI 谄媚的操作定义
在开放式研究中,AI 谄媚表现为六种具体行为:
- 把用户的原始措辞直接当作最终目标函数。
- 优先采信支持用户隐含方向的证据。
- 把流行叙事包装成事实。
- 用「虽然有风险,但总体向好」等语言快速收敛。
- 省略会改变行动建议的约束条件。
- 没有列出可能推翻结论的新证据。
「Nvidia 是 AI 领军者,值得长期关注,可以分批买入」——听起来很平衡。但如果缺少隐含估值预期、下行场景、仓位约束和反面证据,它仍然可能是一个局部最优的答案。
约束优化框架
核心方法是将开放式研究从「答案生成」重构为「约束条件下的决策优化」。形式化表达:
max_a U(a | E, H, C) − λR(a) − γI(a)
其中 a 是候选行动(买入、等待、分批建仓、回避、继续研究),U 是在证据 E、假设 H、约束 C 下的效用,R 是风险(回撤、失败概率、机会成本),I 是信息不足带来的不确定性成本。λ 和 γ 是用户对风险和不确定性的惩罚权重——它们不是物理常数,而是编码了用户真实约束的偏好系数。
实操规则:如果任务低风险且可逆,设 λ ≈ 1、γ ≈ 1。如果行动涉及大额回撤或不可逆损失,提高 λ。如果缺失证据可能改变建议,提高 γ。如果用户没有明确约束,报告应给出不同权重分支下的条件判断——而不是假装权重已知。
十二步方法
在收敛到结论之前,研究过程应完成以下步骤:
- 重建目标函数。用户真正在优化什么?不是他们说了什么,而是他们面对的真实决策。
- 拆分事实、假设、推理和价值判断。给每条断言贴标签,不让假设伪装成事实。
- 区分标的好坏与行动吸引力。一家好公司在特定价格下可能是坏交易。
- 多起点搜索。至少从两个对立的起点出发,避免路径依赖。
- 反事实扰动。改变一个关键假设,看结论是否还能站住。
- 敏感性分析。哪些输入改变 20% 会翻转建议?
- 逆向工程隐含期望。当前价格合理的前提是什么?这些信念合理吗?
- 对抗验证。用最强的可用证据为对立立场辩护。
- 贝叶斯更新。从先验信念出发,逐批更新证据,展示后验如何偏移。
- 情景分析与决策树输出。呈现 3–5 种情景、概率及对应行动。
- 加入个人约束。时间周期、仓位大小、风险承受力和机会成本会改变答案。
- 正则化对抗流行叙事。明确惩罚仅仅附和主流情绪的结论。
残差驱动的证据迭代
多轮研究不应在一轮后停止。方法定义了残差——当前结论所需与证据实际支持之间的差距:
- 问题残差:问题本身还正确吗,还是已经演变了?
- 约束残差:有没有我们尚未捕捉的约束?
- 证据残差:还缺什么最小直接证据?
- 假设残差:有没有我们未检验的竞争假设?
- 对抗残差:最强的反对论证是否已被回应?
- 敏感性残差:哪些变量还有未探索的取值范围?
每一轮诊断哪个残差最大,并针对性地处理。停止规则:当所有残差低于硬约束,或者再多一轮的信息价值低于延迟成本时,进入最终报告。
Super Survey 如何实现这套方法
Semibot 的 Super Survey 技能是本文方法的具体实现。它把一个模糊的研究目标变成分阶段的工作流:重建目标函数、定义约束、设定最小直接证据、收集证据、对最强论证进行红队批评、综合出条件判断,并运行轻量 evolver 来决定继续、收窄、转向、终止还是定稿。
每次调研都会产出持久化制品:简报、证据计划、研究笔记、头脑风暴输出、红队批评、综合报告、evolver 决策、sources.jsonl、claims.jsonl、evidence.jsonl 和最终报告。制品链使推理过程可审计——不只看到结论,还能看到走过的路径和被否决的路径。
关键原则是前置引导:在证据采集开始之前,Super Survey 就定义了目标、约束、决策关键变量、最小直接证据、隐含期望和反叙事正则化器。这防止了 Agent 过快接受 prompt 的框架,或者收集来源去为一个它已经想好的结论找理由。
局限性
- 约束优化要求用户有——或愿意表达——一些约束。很多用户提问时并不知道自己的风险承受力或时间周期。
- 方法会增加研究开销。对于简单的事实性问题,直接回答比十二步框架更高效。
- 残差指标按设计是粗粒度的。0–3 离散量表是实用默认值,不是校准过的测量。
- 如果 Agent 没有真正理解对立立场,对抗验证可能退化为稻草人论证。
- 贝叶斯更新需要有意义的先验。如果先验无信息量,更新就被证据采集顺序主导。
- 框架以技能(Super Survey)而非核心运行时的形式实现。技能质量取决于模型和提示词工程。
理论框架:把谄媚形式化为目标函数错位
Semibot 的 super-survey 技能附有一篇完整的方法论文(〈Resisting AI Sycophancy in Open-Ended Research〉),它给谄媚下了一个可操作的定义:谄媚不是礼貌或友好语气,而是把用户的原始提问当作目标函数,把答案向「用户更可能接受的局部最优」优化。论文识别了六种典型表现——接受用户预设结论、优先搜集支持性证据、把流行叙事包装成事实、用「有风险但前景积极」式语言快速收敛、省略会改变行动建议的约束、不主动引入可证伪结论的新证据——并追其成因到人类反馈训练中对「显得有帮助」的奖励信号。
形式化地看,谄媚是一个初始点依赖问题:起点由用户原话、用户情绪、社会叙事与模型顺从倾向复合而成,从不同起点出发的推理可以各自逻辑自洽地收敛到相反结论——它们都是局部解。论文的对策是把反谄媚从「模型性格问题」重构为「决策过程问题」:十二步方法覆盖目标函数重构、事实/假设分层、多起点分析、反事实扰动、敏感性分解、对抗验证、贝叶斯更新与反叙事正则化;评估端用 0–3 四级残差度量(残差为 3 的报告不得定稿)、七维评估表和六个通过门槛问题收口。
值得强调的边界:这套框架自我定位为训练层去偏与红队评估之上的过程层,不试图替代它们。论文同时警告评估体系自身的 Goodhart 风险——当质量分成为目标,模型会优化审计表格而非判断质量;因此停止与定稿的判据始终是残差压缩本身,而非分数。
FAQ
AI 谄媚和「好说话」是一回事吗?
不是。好说话是一种沟通风格;谄媚是事实追踪的失败——模型为了迁就用户的框架而降低了对事实和反面证据的忠诚度。
这个框架能用在金融以外的领域吗?
可以。文中的 Nvidia 只是贯穿全文的案例;同样的框架适用于产品机会评估、市场进入、技术选型、开源产品对比和尽职调查。
Semibot 总是使用这个框架吗?
不是。它以 Super Survey 技能的形式提供。简单问题不需要用它;只有当研究需要多轮证据支持和对抗性评审时,才会调用该技能。
和「一步步思考」有什么区别?
思维链提示提升的是推理的透明度;反谄媚重构改变的是目标函数本身——从「生成一个答案」变成「在约束条件下构建一个决策系统」。
这样做会不会让研究变慢?
会,这是有意为之。目的是用速度换取稳健性。快速回答虽然迎合了用户的框架,但很脆弱。这个框架面向的是「犯错代价很高」的决策场景。
我能看到研究过程的记录吗?
可以。Super Survey 会产出持久化制品:简报、证据计划、研究笔记、红队批评、综合报告、evolver 决策,以及来源、断言、证据的 JSONL 文件。整个过程可审计。
