senryakuken

多数決が圧縮してしまう「判断構造」と、監査システムが残すべきもの

アニメ『新世紀エヴァンゲリオン』に登場するMAGIシステムは、科学者・母親・女性という三つの人格を別々のコンピュータに移植し、重要な判断を多数決で決めます。一つの合理性では処理できない問題に、異なる立場を持ち込む。AIによる意思決定が現実の課題となった現在、きわめて先進的な構想に見えます。

多数決は公平に見える。しかし、情報を失う

多数決の利点は明快です。意見が割れても、2対1なら結論を出せます。判断の停滞を避け、組織を前へ進める仕組みとして優れています。一方で、票数になった瞬間に消える情報があります。それは、なぜ二人が賛成し、なぜ一人が反対したのかという判断の経路です。

同じ2対1でも、中身は同じではありません。二人が強い証拠に基づいて賛成し、一人が感情的に反対した場合と、二人が同じ誤った前提を共有し、一人だけが重大な安全性リスクを見抜いた場合では、意味が正反対です。それでも多数決は、いずれも「可決」と表示します。

Aggregation conceals decision structure.
集約は、判断構造を隠す。

これはAIにもそのまま当てはまります。複数モデルの投票、専門家エージェントの合議、自己評価を重ねても、最終結果を一つのスコアや賛否へ潰せば、不一致の理由は見えなくなります。意見を増やすことと、監査可能性を高めることは同じではありません。

MAGIシステムの三人格と、DSA＋DAGの三つの機能

DSA＋DAGにも、異なる観点から同じ主張を点検する構造があります。たとえばAIが「治療Aは患者群Bに有効である」と結論したとき、次の問いを分離します。

機能問い
DSA平均値の差だけでなく、分布内に再現可能な構造があるか。
DAG交絡、選択バイアス、媒介、逆因果をどう扱ったか。
解釈許諾層その証拠と仮定から、どこまでの主張を許可できるか。

一見すると三賢者に対応するように見えます。しかし、解釈許諾層は第三の人格でも、第三票でもありません。DSAとDAGが提示した観測構造と因果仮定に対し、「因果解釈まで許される」「予測用途に限定する」「仮説生成にしか使えない」「人間による検討が必要」と使用範囲を切るメタ統治層です。三者が同格に投票する並列構造ではなく、証拠の上に発言境界を置く階層構造なのです。

2対1で押し切ってはいけない問いがある

安全性や因果主張では、二つの検査が肯定し、一つだけが否定したから採用する、という設計は危険です。DSAが構造を検出し、DAG上も因果経路を描けたとしても、解釈許諾層が「根拠を超えた主張」と判定するなら、外部出力は制限されるべきです。ここでは多数派ではなく、最も厳しい制約が優先されます。

さらにDSA＋DAGは、判定不能を欠陥として隠しません。structure、null_unimodal、null_indeterminateという三値は、三人の判定者ではなく、一つの測定装置が持つ異なる状態です。とりわけnull_indeterminateは、「構造がない」ではなく、「測定可能性を確立できない」を意味します。結論を出さないこと自体が、検査を通過した正式な出力になります。

比較軸MAGIDSA＋DAG監査
目的合議して決める言える範囲を確定する
不一致票へ集約する理由と依存関係を残す
出力多数決による結論支持領域・未支持拡張・不確実性
判定不能原則として結論へ進む正規の出力として人へ返す
人間の役割例外時の最終判断判断すべき位置を明示される

AIが自分で自分を監査する限界

現在のAIは、推論し、文章を生成し、その出力を自ら評価することもできます。しかし、生成と監査が同じモデル、同じ学習データ、同じ評価関数に依存すれば、誤りも共有されます。三つの役を演じさせても、共通の盲点が三票に増えるだけかもしれません。MAGIの三人格も一人の人格から派生している以上、独立性には限界があります。

DSA＋DAGをAIの外部に置く意味はここにあります。AIの答えを別のAIに採点させるのではなく、観測された分布、明示された因果仮定、分析環境への依存、許容される主張範囲を分離して記録する。監査対象のAIと異なる原理で問い返すことで、自己正当化の循環を断ちます。

「正しい答え」より、「どこまで言えるか」

AI時代には、意思決定の速度が上がるほど、多数決やスコアへの圧縮は魅力的になります。しかし医療、研究、規制、投資のように誤りの非対称性が大きい領域では、結論の速さより、結論がどの証拠に依存し、どこから先が未支持なのかを残す方が重要です。

DSA＋DAGは意思決定者ではありません。Claim、Supporting Evidence、Analysis Dependency、Causal Assumption、Authorized Support Region、Unsupported Extension、Unresolved Uncertainty、Human Review Requiredを分離し、人間が判断すべき場所を可視化する監査証拠生成装置です。人間を排除するのではなく、人間の判断を必要な地点へ戻します。

MAGIは「決める機械」である。
DSA＋DAGは「決める前に、何がどこまで言えるかを固定する機械」である。

三賢者という比喩を使うなら、DSA＋DAGは三人の賢者を再現するシステムではありません。賢者の発言を根拠、仮定、許容範囲へ分解し、その根拠でそこまで語ってよいのかを問い返す監査官です。多数決が異論を敗者の一票として消すのに対し、監査は異論が生まれた構造を保存する。AIに必要なのは、より多くの賛成票ではなく、圧縮される前の判断構造なのです。