ソフトウェア脆弱性検出を目的としたXAI選択のためのバンディットアルゴリズム適用の試み

角田, 雅照

doi:10.51094/jxiv.6380

##article.authors##

角田, 雅照近畿大学 https://researchmap.jp/read0207245

DOI:

https://doi.org/10.51094/jxiv.6380

キーワード:

バンディットアルゴリズム、ヒューマンインザループ、 HITL、脆弱性診断

抄録

深層学習に基づくモデルは人間にとって解釈が困難なブラックボックスとなっており，モデルが予想外の判別を行うことがある．そのため深層学習モデルの解釈を可能とするXAI（Explainable AI，説明可能なAI）を活用し，その結果に基づいてアナリストが脆弱性を発見するプロセスが提案されている．XAIとして，これまでさまざまな手法が提案されてきている．ただしあるXAIの手法があらゆる場面において有効に働くということはなく，またXAIの評価基準も多様であるため，最も適したXAIを選択することは容易ではない．そこで本研究ではソフトウェア脆弱性検出を目的として，バンディットアルゴリズムによりXAIを選択する方法を提案する．

利益相反に関する開示

開示すべきCOIはありません

ダウンロード *前日までの集計結果を表示します

ダウンロード実績データは、公開の翌日以降に作成されます。

引用文献

K. Eykholt et al.: Robust Physical-World Attacks on Deep Learning Visual Classification, Proc. of Computer Vision and Pattern Recognition (CVPR), pp. 1625-1634 (2018).

T. N. Nguyen and R. Choo: Human-in-the-Loop XAI-enabled Vulnerability Detection, Investigation, and Mitigation, Proc. of International Conference on Automated Software Engineering (ASE), pp.1210-1212 (2021).

A. Chaddad et al.: Generalizable and explainable deep learning for medical image computing: An overview, Current Opinion in Biomedical Engineering, vol.33, 100567 (2025).

M. Hosain et al.: Explainable AI approaches in deep learning: Advancements, applications and challenges, Computers and Electrical Engineering, vol.117, 109246 (2024).