評価的・制度的不整合としての生成AIにおけるハルシネーション

Hallucination-Institutional Nexus（ハルシネーション–制度的結節点）と制度的キャリブレーション

抄録

生成AIにおけるハルシネーションは、しばしば、不正確な出力、根拠のない出力、または捏造された出力を含むモデルレベルの誤りとして理解される。この理解は重要であるが、そうした出力が専門的助言、評価、組織的文脈においてなぜ制度的帰結を持つようになるのかを説明するには十分ではない。本稿は、AI生成出力が評価・検証・判断・責任の構造へ接続されるとき、ハルシネーションが重要な問題となることを論じる。
この過程を分析するために、本稿はまず、AI媒介出力を、Y：Yardstick、M：Metacognition、C：Cognition（生成機構）、K：Knowledge が特定の文脈条件のもとで相互作用することによって成立するものとして捉えるYMCKフレームワークを提示する。そのうえで、Hallucination-Institutional Nexus（HIN）を、AI生成出力が評価・検証・判断・責任の制度的構造へ接続されることで制度的意味を持つようになる構造的接点として定義する。
これに基づき、本稿はハルシネーションを、単なるモデルレベルの誤りとしてではなく、AI生成出力と、それが利用される根拠付け、検証、判断、責任の制度的構造との間に生じる評価的・制度的不整合として再定式化する。したがって、ハルシネーションの緩和には、モデルレベルの改善だけでなく、AI生成出力が制度的判断へ接続される前に、評価基準、検証手続き、停止条件、責任分界、記録可能な過程を調整する制度的キャリブレーションが必要である。
本稿は結論として、生成AIがより流暢になり、制度的文脈へ深く組み込まれるほど、ハルシネーションは単なるモデルレベルの誤りではなく、評価基準、検証手続き、停止条件、責任分界、記録可能な過程をキャリブレーションする必要性を示す構造的信号として理解されるべきであると論じる。