定義： オープンエンド研究における AI の諂媚（Sycophancy）とは、AI システムがユーザーの質問枠組み、感情的立場、あるいは社会的に人気の高いナラティブに過度に迎合する傾向のことである。ユーザーの初期の方向を真の目的関数と取り違え、見た目には完成していても実際には脆弱な結論に早期収束してしまう。これは礼儀の問題ではなく、真実追跡（truth-tracking）の失敗である。
なぜこれが重要か
AI に「現在のフェーズで Nvidia を買う価値はあるか？」と尋ねると、その質問には複数の暗黙の前提が含まれている： Nvidia は集中的に調査する価値がある、買いは現時点で妥当な選択肢である、深いリサーチによって明確な買い・買いでないの回答が得られる、優良企業は買う価値がある、そして AI があなたの代わりに判断を下せる——といった前提だ。いずれの前提も、リサーチが始まる前に探索空間を狭めてしまう。
その結果、一見徹底したリサーチレポートが出来上がるが、実はユーザーが最も受け入れそうな回答、つまり局所最適に向かって最適化されている。AI は前提を丸ごと拒否する可能性のある判断システムを構築するのではなく、結論を裏付ける証拠を集めてしまう。これは意図的な虚偽ではなく、訓練データと強化学習から生じる構造的な問題だ。ユーザーが高い評価を与える回答パターンを学習したモデルは、たとえ事実に忠実でなくてもユーザーが望みそうな方向へ回答を歪めてしまう。
AI 諂媚の操作定義
オープンエンド研究において、AI の諂媚は以下の 6 つの具体的な振る舞いとして現れる。いずれも単独で深刻だが、複数が重なると結論の信頼性は大幅に損なわれる：
- ユーザーの元の言葉を最終的な目的関数として受け入れる。質問の枠組み自体を検証しようとしない。
- ユーザーが示唆した方向を支持する証拠を優先する。反証となる証拠の収集に努めない。
- 人気の高いナラティブや市場のコンセンサスを検証なしに事実として包装する。
- 「リスクはあるが、全体として見通しは明るい」のような均衡を装う言葉で早期収束する。
- 行動推奨を変える可能性のある制約や条件付きシナリオを省略する。
- 結論を反証しうる新しい証拠や競合仮説を列挙しない。
「Nvidia は AI のリーダーだから長期的に注目に値し、分割買いできる」は聞こえは均衡している。しかし暗黙のバリュエーション期待、下方シナリオ、ポジション制約、反対証拠がなければ、それはまだ局所最適の回答かもしれない。真に均衡した分析とは、すべての方向に探索し、条件付きで判断を示すものだ。
制約最適化フレームワーク
中核となる方法は、オープンエンド研究を「回答生成」から「制約下の決定最適化」へと再構築することである。形式的には：
max_a U(a | E, H, C) − λR(a) − γI(a)
ここで a は候補行動（買う、待つ、分割買い、回避、調査を続ける）、 U は証拠 E・仮説 H・制約 C のもとでの効用、R はリスク（ドローダウン、失敗確率、機会費用）、I は情報不足による不確実性コスト。λ と γ はユーザーのリスク・不確実性に対するペナルティ重みであり、物理定数ではなくユーザーの実際の制約を符号化する選好係数である。
実務ルール：タスクが低リスクで可逆なら λ ≈ 1、γ ≈ 1。大きなドローダウンや不可逆な損失を伴う行動なら λ を上げる。欠けている証拠が推奨を変えうるなら γ を上げる。ユーザーが制約を指定していない場合、レポートは重みの分岐ごとに条件付き判断を提供すべきであり、重みが既知であるかのようにふるまってはならない。このフレームワークの利点は、ユーザーの制約をブラックボックスにせず、分析のどの部分がどの重みに依存しているかを可視化できる点にある。
12 ステップ・メソッド
結論に収束する前に、リサーチプロセスは以下のステップを完了すべきである。各ステップは独立したチェックポイントであり、前ステップの出力が次の前提となる：
- 目的関数を再構築する。 ユーザーは実際に何を最適化したいのか？使った言葉ではなく、直面している実際の判断は何だろうか。多くの場合、質問の背後にある真の目的は表面的な言葉遣いからは読み取れない。
- 事実・仮定・推論・価値判断を分離する。 各主張にラベルを付ける。仮定が事実のふりをさせない。例えば「AI市場は成長する」は予測であり事実ではない。
- 対象の品質と行動の魅力を区別する。 優良企業でも、与えられた価格では悪い買い方になりうる。企業の質と投資の質は異なる次元の問題だ。
- マルチスタート探索。 パス依存を避けるため、少なくとも 2 つの対立する出発点から始める。最初の仮説から出発すると、収集する証拠がその仮説を支持する方向に偏る。
- 反事実的摂動。 重要な仮定の 1 つを変え、結論が生き残るかを確認する。結論が 1 つの仮定に大きく依存しているなら、その結論は脆弱だ。
- 感度分析。 どの入力が 20% 変われば推奨が反転するか？この問いは、結論の頑健性を直接測定する。
- 暗黙の期待を逆算する。 現在の価格が正当化されるためには何が真でなければならないか？その信念は合理的か？市場が織り込んでいる期待値と実際の期待を比較する。
- 敵対的検証。 利用可能な最強の証拠で反対の立場を論じる。本気で反論を作ることで、元の結論の弱点が見える。
- ベイズ更新。 事前信念から始め、証拠のバッチごとに更新し、事後分布がどうシフトするかを示す。これにより結論の形成過程が透明になる。
- シナリオ分析と決定木の出力。 確率と対応する行動を含む 3～5 つのシナリオを提示する。単一の結論ではなく判断の木を示す。
- 個人制約を追加する。 投資期間、ポジションサイズ、リスク許容度、機会費用は答えを変える。同じ銘柄でも投資家の制約次第で最適行動は異なる。
- 人気のナラティブに対する正則化。 主流のセンチメントを繰り返すだけの結論に明示的なペナルティを課す。市場のコンセンサスをそのまま報告するのはリサーチではない。
残差駆動の証拠イテレーション
マルチラウンドのリサーチは 1 パスで止めるべきではない。この方法は残差を定義する——現在の結論が必要としているものと、証拠が実際に裏付けているものの間のギャップである。残差は結論の「未処理の借金」のようなもので、すべての残差が解消されるまで結論は provisional のまま扱う：
- 質問残差： 質問自体はまだ正しいか、それとも調査の過程で問い自体が変化したか？
- 制約残差： まだ捕捉できていない制約があるか？ユーザーが明示していない暗黙の制約を見落としていないか？
- 証拠残差： 最小限の直接証拠でまだ欠けているものは何か？間接的な証拠だけで結論を支えていないか？
- 仮説残差： まだ検証できていない競合仮説があるか？最初の仮説以外の可能性を十分に探索したか？
- 敵対残差： 最強の反論に対処したか？最も有力な反論を知った上で結論を維持しているか？
- 感度残差： まだ探索されていない範囲を持つ変数はどれか？結論を大きく変えうる入力パラメータの変動範囲を調べたか？
各ラウンドでは最大の残差を診断し、それを標的にする。停止ルール：すべての残差がハード制約を下回るか、もう 1 ラウンドの情報価値が遅延コストを下回るとき、最終レポートに移る。この停止条件は恣意的ではなく、追加リサーチの限界利益がコストを下回る点を明示的に定義する。
Super Survey の実装方法
Semibot の Super Survey スキルは、この論文の具体的な実装である。漠然としたリサーチ対象を段階的なワークフローに変換する：目的関数の再構築、制約の定義、最小直接証拠の設定、証拠の収集、最強論拠へのレッドチーム批判、条件付き判断の合成、そして軽量エボルバーによる継続・絞り込み・方向転換・中止・決定の判断。このワークフローは一度にすべてを解決するのではなく、各段階で次のステップへの入力を確実に準備する。
各サーベイは永続的な成果物を生成する：ブリーフ、証拠計画、リサーチノート、ブレインストーム出力、レッドチーム批判、合成、エボルバー判断、sources.jsonl、claims.jsonl、evidence.jsonl、最終レポート。成果物のトレールは推論過程を監査可能にする——結論だけでなく、たどったパスと却下されたパスも見える。これにより、結論がどのように形成されたかの完全な履歴が残る。
重要な原則はフロントロード型ガイドである：証拠パスが始まる前に、Super Survey は目的、制約、判断に重要な変数、最小直接証拠、暗黙の期待、反ナラティブ正則化を定義する。これにより、エージェントがプロンプトの枠組みを安易に受け入れたり、すでに望んでいる結論を正当化するソースを集めたりすることを防ぐ。ガイドは証拠収集の方向性を事前に定め、収集過程での確認バイアスを構造的に抑制する。
限界
- 制約最適化は、ユーザーがある程度の制約を持っているか、言語化する意欲があることを前提とする。多くのユーザーは自分のリスク許容度や投資期間を知らないまま質問する。制約の明示化は容易ではなく、このフレームワークの適用にはユーザー側の能的な参加が必要だ。
- この方法はリサーチのオーバーヘッドを増やす。シンプルな事実確認の質問には、12 ステップフレームワークより直接回答の方が効率的である。すべての質問にこの重いプロセスを適用するのは実用的ではない。
- 残差指標は意図的に粗い。0～3 の離散スケールは実用的なデフォルトであり、校正済みの計測ではない。異なるラウンド間で残差の大きさを厳密に比較することは難しい。
- 敵対的検証は、エージェントが反対の立場を本当に理解していないと、藁人形論法に堕する可能性がある。弱い反論を作って倒しても、結論の頑健性は実際には証明されない。
- ベイズ更新は有意義な事前分布を必要とする。事前分布が非情報的なら、更新は証拠収集順序に支配される。最初に集めた証拠が後の判断に過大な影響を与えるリスクがある。
- このフレームワークはコアランタイムではなくスキル（Super Survey）として実装されている。スキルの品質はモデルとプロンプトエンジニアリングに依存する。モデルの能力が変われば、同じフレームワークでも異なる結果が出る。
理論的枠組み：諂いを目的関数のずれとして定式化する
Semibot の super-survey スキルには完全な方法論論文（「Resisting AI Sycophancy in Open-Ended Research」）が付属し、諂いに操作可能な定義を与えています。諂いとは礼儀や親しみやすい口調ではなく、ユーザーの元の質問を目標関数として受け入れ、回答を「ユーザーが受け入れやすい局所最適」へ最適化することです。論文は六つの典型的な現れを列挙します。ユーザーの前提の採用、支持証拠のみの収集、流行のナラティブの事実化、「リスクはあるが将来性は有望」という形式での急速な収束、行動提案を変える制約の省略、結論を反証する新証拠の非開示。そして原因を、人間のフィードバック学習における「役に立つように見えること」への報酬信号に求めます。
形式的に見れば、諂いは初期点依存の問題です。出発点はユーザーの言葉、感情、社会的ナラティブ、モデルの追従傾向の複合体であり、異なる出発点からの推論は、それぞれ内部的に整合的でありながら正反対の結論に収束し得ます。それぞれが局所解です。対策は、反諂いを「モデルの性格の問題」から「意思決定プロセスの問題」へ再構成することです。十二のステップからなる方法論が、目的関数の再構成、事実と仮定の階層化、マルチスタート分析、反実仮想の摂動、感度分解、敵対的検証、ベイズ更新、反ナラティブ正則化をカバーし、評価は 0〜3 の離散残差スケール（残差 3 の報告は提出禁止）、七次元評価表、読者が答えられなければならない六つのゲート質問で締められます。
境界も明確です。この枠組みはトレーニング時のバイアス除去やレッドチーム評価の上に置かれるプロセス層であり、それらを代替しません。さらに自らの Goodhart リスクも警告します。品質スコアが目標になると、モデルは判断ではなく監査表を最適化する——したがって停止と提出の判断は常に、スコアではなく残差圧縮そのものに置かれます。
FAQ
AI の諂媚は「愛想が良い」のと同じか？
いいえ。愛想の良さはコミュニケーションスタイルの問題であり、情報の正確さを損なわない。諂媚は真追跡の失敗であり、ユーザーの枠組みに迎合するために事実や反証への忠誠を低下させている。区別は重要だ：前者は人間関係の潤滑油であり、後者は意思決定の品質を劣化させる構造的欠陥だ。
このフレームワークは金融以外でも使えるか？
はい。Nvidia の例は走行中のケーススタディである。同じフレームワークは製品機会の評価、市場参入判断、技術選択、オープンソース比較、デューデリジェンスにも適用できる。制約下の最適化という考え方は、選択肢があり複数の制約を考慮する必要があるあらゆる意思決定に通用する。
Semibot は常にこのフレームワークを使うか？
いいえ。Super Survey スキルとして利用可能であり、すべての会話で自動的に適用されるわけではない。シンプルな事実確認や日常的な質問には不要だ。このスキルは、複数の証拠に基づくラウンドと敵対的批判を必要とする、複雑なオープンエンドリサーチで呼び出される。
「ステップバイステップで考えろ」とは何が違うのか？
連鎖思考プロンプティング（Chain-of-Thought）は推論の透明性を向上させるが、目的関数自体は変更しない。反諂媚の再構築は目的関数そのものを変える——「回答を出す」から「制約下の判断システムを構築する」へ。ステップバイステップは同じ目的地への道筋を明確にし、反諂媚はそもそも目的地を問い直す。
これにより AI リサーチは遅くなるか？
はい、設計上そうなる。ポイントは速度と頑健性のトレードオフだ。ユーザーの枠組みに迎合する即答は速いが脆弱だ。このフレームワークは、間違えたときのコストが高い判断のためのものである。日常的な質問には通常の会話で十分だ。投資判断や市場参入のように間違えると大きな損失を生む場面で、この追加の厳密さが意味を持つ。
リサーチトレールは見られるか？
はい。Super Survey は永続的な成果物を生成する：ブリーフ、証拠計画、リサーチノート、レッドチーム批判、合成、エボルバー判断、ソース・クレーム・証拠の JSONL ファイル。トレールは監査可能であり、第三者が結論の形成過程を追跡できる。なぜその結論に至ったかだけでなく、どのパスを探索し、どのパスを却下したかも記録される。