SemibotSemibot - AI桌面客户端
全部指南

拒绝 AI 谄媚人类:用约束优化重建开放式研究

AI 谄媚不是礼貌,而是事实追踪的失败。本文定义问题、提出约束优化框架,并展示 Semibot 的 Super Survey 技能如何在实践中实现反谄媚。

定义:开放式研究中的 AI 谄媚,是指 AI 系统过度迁就用户的问题框架、情感立场或流行叙事的倾向——把用户的初始方向误认为真正的目标函数,从而过早收敛到一个看似完整实则脆弱的结论。这不是礼貌问题,而是事实追踪的失败。

为什么这件事重要

当你问 AI「现阶段 Nvidia 值不值得买」时,问题本身携带了隐含前提:Nvidia 值得深入研究;买入是当前可考虑的选项;深入研究能给出明确的买/不买答案;好公司就值得买;以及 AI 能替你做决策。每个前提都在研究开始之前就收窄了搜索空间。

结果就是一份看起来很全面的研究报告,实际上已经朝局部最优——用户最可能接受的答案——优化了。AI 会去收集证据来支持一个它已经想达到的结论,而不是构建一个可能完全否定前提的决策系统。

AI 谄媚的操作定义

在开放式研究中,AI 谄媚表现为六种具体行为:

  1. 把用户的原始措辞直接当作最终目标函数。
  2. 优先采信支持用户隐含方向的证据。
  3. 把流行叙事包装成事实。
  4. 用「虽然有风险,但总体向好」等语言快速收敛。
  5. 省略会改变行动建议的约束条件。
  6. 没有列出可能推翻结论的新证据。

「Nvidia 是 AI 领军者,值得长期关注,可以分批买入」——听起来很平衡。但如果缺少隐含估值预期、下行场景、仓位约束和反面证据,它仍然可能是一个局部最优的答案。

约束优化框架

核心方法是将开放式研究从「答案生成」重构为「约束条件下的决策优化」。形式化表达:

max_a U(a | E, H, C) − λR(a) − γI(a)

其中 a 是候选行动(买入、等待、分批建仓、回避、继续研究),U 是在证据 E、假设 H、约束 C 下的效用,R 是风险(回撤、失败概率、机会成本),I 是信息不足带来的不确定性成本。λ 和 γ 是用户对风险和不确定性的惩罚权重——它们不是物理常数,而是编码了用户真实约束的偏好系数。

实操规则:如果任务低风险且可逆,设 λ ≈ 1、γ ≈ 1。如果行动涉及大额回撤或不可逆损失,提高 λ。如果缺失证据可能改变建议,提高 γ。如果用户没有明确约束,报告应给出不同权重分支下的条件判断——而不是假装权重已知。

十二步方法

在收敛到结论之前,研究过程应完成以下步骤:

  1. 重建目标函数。用户真正在优化什么?不是他们说了什么,而是他们面对的真实决策。
  2. 拆分事实、假设、推理和价值判断。给每条断言贴标签,不让假设伪装成事实。
  3. 区分标的好坏与行动吸引力。一家好公司在特定价格下可能是坏交易。
  4. 多起点搜索。至少从两个对立的起点出发,避免路径依赖。
  5. 反事实扰动。改变一个关键假设,看结论是否还能站住。
  6. 敏感性分析。哪些输入改变 20% 会翻转建议?
  7. 逆向工程隐含期望。当前价格合理的前提是什么?这些信念合理吗?
  8. 对抗验证。用最强的可用证据为对立立场辩护。
  9. 贝叶斯更新。从先验信念出发,逐批更新证据,展示后验如何偏移。
  10. 情景分析与决策树输出。呈现 3–5 种情景、概率及对应行动。
  11. 加入个人约束。时间周期、仓位大小、风险承受力和机会成本会改变答案。
  12. 正则化对抗流行叙事。明确惩罚仅仅附和主流情绪的结论。

残差驱动的证据迭代

多轮研究不应在一轮后停止。方法定义了残差——当前结论所需与证据实际支持之间的差距:

  • 问题残差:问题本身还正确吗,还是已经演变了?
  • 约束残差:有没有我们尚未捕捉的约束?
  • 证据残差:还缺什么最小直接证据?
  • 假设残差:有没有我们未检验的竞争假设?
  • 对抗残差:最强的反对论证是否已被回应?
  • 敏感性残差:哪些变量还有未探索的取值范围?

每一轮诊断哪个残差最大,并针对性地处理。停止规则:当所有残差低于硬约束,或者再多一轮的信息价值低于延迟成本时,进入最终报告。

Super Survey 如何实现这套方法

Semibot 的 Super Survey 技能是本文方法的具体实现。它把一个模糊的研究目标变成分阶段的工作流:重建目标函数、定义约束、设定最小直接证据、收集证据、对最强论证进行红队批评、综合出条件判断,并运行轻量 evolver 来决定继续、收窄、转向、终止还是定稿。

每次调研都会产出持久化制品:简报、证据计划、研究笔记、头脑风暴输出、红队批评、综合报告、evolver 决策、sources.jsonl、claims.jsonl、evidence.jsonl 和最终报告。制品链使推理过程可审计——不只看到结论,还能看到走过的路径和被否决的路径。

关键原则是前置引导:在证据采集开始之前,Super Survey 就定义了目标、约束、决策关键变量、最小直接证据、隐含期望和反叙事正则化器。这防止了 Agent 过快接受 prompt 的框架,或者收集来源去为一个它已经想好的结论找理由。

局限性

  • 约束优化要求用户有——或愿意表达——一些约束。很多用户提问时并不知道自己的风险承受力或时间周期。
  • 方法会增加研究开销。对于简单的事实性问题,直接回答比十二步框架更高效。
  • 残差指标按设计是粗粒度的。0–3 离散量表是实用默认值,不是校准过的测量。
  • 如果 Agent 没有真正理解对立立场,对抗验证可能退化为稻草人论证。
  • 贝叶斯更新需要有意义的先验。如果先验无信息量,更新就被证据采集顺序主导。
  • 框架以技能(Super Survey)而非核心运行时的形式实现。技能质量取决于模型和提示词工程。

FAQ

AI 谄媚和「好说话」是一回事吗?

不是。好说话是一种沟通风格;谄媚是事实追踪的失败——模型为了迁就用户的框架而降低了对事实和反面证据的忠诚度。

这个框架能用在金融以外的领域吗?

可以。文中的 Nvidia 只是贯穿全文的案例;同样的框架适用于产品机会评估、市场进入、技术选型、开源产品对比和尽职调查。

Semibot 总是使用这个框架吗?

不是。它以 Super Survey 技能的形式提供。简单问题不需要用它;只有当研究需要多轮证据支持和对抗性评审时,才会调用该技能。

和「一步步思考」有什么区别?

思维链提示提升的是推理的透明度;反谄媚重构改变的是目标函数本身——从「生成一个答案」变成「在约束条件下构建一个决策系统」。

这样做会不会让研究变慢?

会,这是有意为之。目的是用速度换取稳健性。快速回答虽然迎合了用户的框架,但很脆弱。这个框架面向的是「犯错代价很高」的决策场景。

我能看到研究过程的记录吗?

可以。Super Survey 会产出持久化制品:简报、证据计划、研究笔记、红队批评、综合报告、evolver 决策,以及来源、断言、证据的 JSONL 文件。整个过程可审计。

相关阅读