AIの行動は、どのような条件で許可されるのか?
SimBenchにおける許可判断・運用復帰・証拠の検討
DOI:
https://doi.org/10.51094/jxiv.6951キーワード:
AIガバナンス、 実行時ガバナンス、 AI行動ライセンシング、 フィジカルAI、 実行時認可、 実行意味論、 再進入と再検証、 証拠の再構成抄録
自律型AIおよび身体性AIの実行時ガバナンスの枠組みは、適切な統制目標を提示できる一方で、決定論的な実行に必要な意味論を十分に規定していない場合がある。本研究では、AI Behavior Licensing(AIBL)の諸概念を、対象範囲を限定したPhysical AI Runtime Governance Simulation Bench(SimBench)上で実行可能な形に具体化することで、この問題を検討する。その結果、現在の有効性(currentness)には、参照対象の明示、入力種別ごとの時間的妥当性条件、および条件不成立時の意味づけが必要であることが明らかになった。また、運用復帰には、許可判断、観測された結果、ガバナンス状態遷移、再進入を区別する必要があり、証拠の再構成可能性には、異なる証拠操作と信頼の前提を明確に区別する必要があった。バージョンを固定した関連する実行時認可研究との比較により、個々の機構に関する新規性の主張を限定した。本研究の貢献は、概念的なガバナンス用語が、検査可能な実行意味論へと具体化される過程を、実装成果物に裏付けられた形で示したことである。さらに、実装によって明確化された前提を、適用範囲を限定した理論的精緻化として概念モデルに還元できることを示した。ただし、本研究は、新たな実行時認可アーキテクチャの提案や、実世界における安全性の検証を主張するものではない。
利益相反に関する開示
著者は、本研究に関して開示すべき利益相反を有しない。ダウンロード *前日までの集計結果を表示します
引用文献
Palumbo, N. et al. Formal Policy Enforcement for Real-World Agentic Systems. Preprint at https://arxiv.org/abs/2602.16708v3 (2026).
Kaul, A., Lan, Q. & Gupta, P. Behavioral Governance for Autonomous AI Agents: The AgentBound Framework. Preprint at https://arxiv.org/abs/2606.30970v2 (2026).
Tallam, K. A Five-Plane Reference Architecture for Runtime Governance of Production AI Agents. Preprint at https://arxiv.org/abs/2606.12320v1 (2026).
Santos-Grueiro, I. Temporary Authority, Permanent Effects: Commit-Time Authorization for LLM Agents. Preprint at https://arxiv.org/abs/2607.10487v1 (2026).
Zhang, Y. et al. FAVA: Formal Authorization for Verified Agents with Evidence-Backed Permission Graphs. Preprint at https://arxiv.org/abs/2607.27267v1 (2026).
Inoue, R. Operational AI Governance for Physical AI: Translating Risk Management into Runtime Control of Embodied Systems. Preprint at https://doi.org/10.51094/jxiv.5278 (2026).
Inoue, R. From Assurance to Execution Permission: Governance Permission Composition and Revalidation in Autonomous AI Systems. Preprint at https://doi.org/10.2139/ssrn.7367598 (2026).
Inoue, R. AIBL Physical AI Runtime Governance Simulation Bench. Zenodo https://doi.org/10.5281/zenodo.22719249 (2026).
Kaptein, M., Khan, V.-J. & Podstavnychy, A. Runtime Governance for AI Agents: Policies on Paths. Preprint at https://arxiv.org/abs/2603.16586v1 (2026).
Qin, X. et al. Harnessing Embodied Agents: Runtime Governance for Policy-Constrained Execution. Preprint at https://arxiv.org/abs/2604.07833v4 (2026).
Dobrin, S. & Chmiel, Ł. The Unfireable Safety Kernel: Execution-Time AI Alignment for AI Agents and Other Escapable AI Systems. Preprint at https://arxiv.org/abs/2606.26057v1 (2026).
Mazzocchetti, A. M. Runtime Governance for Agentic AI: Action-Boundary Control withTrusted Provenance and Fail-Closed Execution. Preprint at https://arxiv.org/abs/2608.16891v1 (2026).
Oswal, J. & Cadeddu, J. Five Primitives for Governing Autonomous AI Agents at Runtime. Preprint at https://arxiv.org/abs/2608.26696v1 (2026).
Xiao-Yang Liu Yanglet, X., Wang, X. & Capponi, A. No Certificate, No Execution: Certified Traces as a Foundation for Trustworthy AI Agents. Preprint at https://arxiv.org/abs/2605.24462v1 (2026).
Wu, B., Liu, Q., Bibi, A., King, I. & Lyu, S. The Authorization-Execution Gap Is a Major Safety and Security Problem in Open-World Agents. Preprint at https://arxiv.org/abs/2605.11003v1 (2026).
公開済
投稿日時: 2026-10-25 08:22:31 UTC
公開日時: 2026-11-16 03:08:09 UTC
ライセンス
Copyright(c)2026
井上, 亮司
この作品は、Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International Licenseの下でライセンスされています。
