ブラックボックスと言われるAIはどのように答えを出しているのでしょうか。

「この質問にはこう答える」というプログラムが組み込まれていると思われがちですが、現在の大規模言語モデル（LLM）は、そのような仕組みではありません。

AIの学習は「勾配降下法」と呼ばれる手法で行われています。膨大な文章を読み込み、「次に来る単語は何か」を何兆回も予測し、その誤差が小さくなるように数千億以上のパラメータ（重み）を少しずつ修正していきます。

AIには「専門家として答えてください」「経営コンサルタントとして説明してください」「小学生にも分かるように説明してください」といったように、特定の役割（ペルソナ）を与えて利用する場面が少なくありません。

そのため、多くの人はAIの内部に「医師モード」「教師モード」「研究者モード」のようなプログラムが用意されており、指示に応じて切り替わっていると考えがちです。

しかし、現在の大規模言語モデル（LLM）は、そのような仕組みではありません。では、なぜ「専門家として答えてください」とお願いすると専門家らしい回答になり、「経営コンサルタントとして答えてください」とお願いすると経営視点の回答になるのでしょうか。

実は、AIの中に「医師」「教師」「経営者」といった人格が保存されているわけではありません。

その都度、与えられた指示を手掛かりに、「今は専門家として答えよう」「今は経営コンサルタントとして考えよう」というように、回答の組み立て方を変えているのです。

例えるなら、一人の俳優が映画ごとに医師や教師、刑事などさまざまな役を演じるのと似ています。俳優自身が別人になるわけではありませんが、役柄に応じて話し方や考え方、行動が変わります。

現在のAIのペルソナもこれに近く、会話のたびに役柄を演じ分けているようなものです。つまり、AIの人格は固定されたものではなく、その場その場で作られている「役柄」なのです。しかし、ここに一つの課題があります。

現在のAIは「人格らしく振る舞う」ことはできますが、「なぜそのように判断したのか」という判断構造を持っているわけではありません。

慎重に答えたのか。
積極的に答えたのか。
安全性を優先したのか。
効率性を優先したのか。

その理由は、数千億ものパラメータの中に暗黙的に埋め込まれており、人間が理解できる形では表現されていません。

ここで、DSA＋DAGという考え方が新たな可能性を示します。

DSA（Distribution Structure Analysis）は、平均値ではなく分布構造そのものを解析します。判断がどこで揺らぎ、どのような特徴を持つのかを構造として捉えます。

一方、DAG（Directed Acyclic Graph）は、「どの要因がどの判断に影響したのか」という因果関係を明示します。

もしこの二つをAIに組み込むことができれば、AIは単に「人格らしく振る舞う」のではなく、

「私は安全性を最優先するため、この判断を選択した」

「この患者背景ではリスクを重視する構造になっている」

「この条件では判断が揺らぎやすいため、追加情報が必要である」

といったように、自らの判断構造を説明できる可能性があります。

これは従来のペルソナとは本質的に異なります。

ペルソナは話し方や振る舞いを変えるものですが、DSA＋DAGは意思決定そのものを構造化する技術だからです。

人間が「人格」と呼んでいるものも、実際には価値観、経験、優先順位、リスク許容度など、多様な判断構造の積み重ねによって形成されています。

もしAIがそれらを構造として持ち、一貫した判断を行い、その理由まで説明できるようになれば、それは単なる「会話AI」ではなく、「判断主体」としてのAIへ近づくことになります。

AIの進化は、より多くのデータを学習させることだけではありません。

これからの時代に求められるのは、「何を答えたか」だけではなく、「なぜその判断に至ったのか」を説明できるAIです。

勾配降下法はAIに知識を与えました。

そして、DSA＋DAGは、その知識に説明可能な判断構造を与える技術になり得るかもしれません。

AIが「人格らしく話す時代」から、「一貫した判断構造を持ち、その理由を説明できる時代」へ。

その転換点に、DSA＋DAGのような構造化アプローチが果たす役割は、決して小さくないと考えています。