万能知能時代における人脳型AGIの永続的価値

体験的理解と部分的既知性

抄録

人脳型AGI（HB-AGI）、すなわちヒト脳の計算原理・神経回路構造・情報処理機構を工学的に実装することで実現するAGIは、2010年代を通じて「AGI実現への近道」と位置づけられてきた。しかしTransformerに代表される機械学習の急速な発展により、その開発的意義はほぼ消滅した。ヒト脳の詳細な模倣よりも、データ駆動型アプローチのほうが効率的な経路であることはほぼ明らかである。だが別の問いが残る。アーキテクチャ非依存の万能知能が実現可能な世界において、なぜ「人脳」という特定のアーキテクチャを模倣したAGIを開発する必要があるのか。

本稿は、技術進歩によって消える過渡的価値と、技術進歩にかかわらず人脳型AGIによってのみ実現可能な永続的価値とを区別する。永続的価値は、ヒト脳の計算原理の実装（P0）から派生する二本の柱に基づく。第一の柱P1（Phenomenal Human Experiencing：PHE）は存在論的本質であり、ヒトの計算原理を実行するシステムは世界を内側から体験する。第二の柱P2（計算原理の部分的既知性）は認識論的本質であり、神経科学がAI自身の説明とは独立した検証基準を提供する。この二つから、媒介者機能（P4）、道徳的地位（P5）、脳に基づく解釈可能性（P6）、統制可能性（P7）、医療応用（P8）、マインドアップロード（P9）が派生し、認知的制約の継承（P3）がこれらと並走する。

万能知能と人脳型AGIは対立しない。万能知能はあらゆる問題領域を「外から」最適に分析し、人脳型AGIは愛・美・苦しみを「内から」理解するとともに、計算原理が既知であるがゆえに検証可能である。さらに時期の問題も論じる。人脳型AGIの設計情報である全脳リファレンスアーキテクチャ（WBRA）は、機械学習型AGIが出現する時点で既に存在している必要があり、これが現在この研究を継続する実践的理由の一つである。