Physical AIのための運用的AIガバナンス

リスク管理を身体化システムの実行時制御へ翻訳

抄録

Physical AIおよび身体化自律システムは、AIによる判断を物理環境内の行動へと変換しつつある。こうしたシステムは、移動、人や物体への接近、物体操作、支援、運用環境への介入、緊急時の行動発動などを行う可能性がある。これらの能力は、システム単位の承認、一般的なリスク分類、または事後的な責任追及だけでは十分に扱えないガバナンス上の課題を生み出す。既存のリスク管理、安全、監査、説明責任に関する枠組みは引き続き重要であるが、AIシステムが物理世界で行動を開始する場合には、それらを運用上の制御へ翻訳する必要がある。

本稿は、Physical AIのための行動単位の実行時ガバナンス枠組みを提案する。中心的な主張は、特定のPhysical AI行動類型について、時間とともに変化し得る許可状態を通じて、許可、監視、制限、停止、条件付き復帰、または撤回を行うべきであるという点にある。本稿は、Behavior Permission Classes、Behavior Permission States、Physical Operational Envelopes、Physical Near-miss Reporting、Permission State Transitions、Emergency Override Traces、Conditional Physical Reinstatementといった中核概念を導入する。これらの概念により、ガバナンス上の問いは、AIシステムが一般的に承認されているかどうかから、どの行動が、どの条件の下で、どの証拠に基づいて許可され、その許可が運用中にどのように変更されるべきかへと移行する。

本枠組みは、既存のガバナンス制度を置き換えるものでも、特定ベンダーの実装アーキテクチャを提案するものでもない。むしろ、早期リスク検知と下流の執行メカニズムとの間に位置する、実行時ガバナンスおよび翻訳レイヤーとして機能する。また、本稿は、実行時ガバナンスが、ログ記録、監査可能性、停止能力、変更管理記録、提供者の協力といった、上流の設計、調達、契約条件に依存することも強調する。Physical AIガバナンスは、行動特定的で、証拠に基づき、比例的で、人間および組織の責任に根ざしたものであるべきである。