AIの責任性、「説明可能性（XAI）」に関する調査 - NRIの先進テクノロジーに関する取り組み｜atlax/アトラックス｜野村総合研究所(NRI)

IT基盤技術戦略室

小売・製造、金融・公共をはじめ、幅広い業界において「先進技術を活用してビジネスモデルを変革(DX)し、お客さまへ価値提供していきたい」というテクノロジー活用への期待が高まっています。一方、その期待に反して、技術変化のスピードが速く、技術キャッチアップやその活用が難しいといった悩みもお聞きします。

そのような声にお応えするため、株式会社野村総合研究所（NRI）では「潜在的な顧客ニーズ発の技術調査」「技術動向を見据えた先進技術の早期評価」「獲得した技術の事業適用」に継続的に取り組んでいます。このような活動を通して、NRIは専門知識を用いて企業様のビジネスとテクノロジーの架け橋となり、DX実現まで伴走します。

このブログでは、NRIで推進している先進的な技術獲得の取り組みについて、ご紹介していきます。今回は、「XAI技術を用いたAIシステムの説明可能性」に関する調査研究の成果をピックアップしました。

XAI技術を用いたAIシステムの説明可能性

AIは、生産性、ヘルスケア、情報セキュリティなどの様々な分野で活用が期待されています。開発者が安全なAIシステムを開発し、利用者や運営者が安心してAIシステムを利用するには、AIによる判断品質を保てる基準や仕組みを有することが大切です。AIによる判断品質を保つための品質要件は、「AI精度」、「堅牢性」、「公平性」など、様々ありますが（詳細は、こちら）、その一つに「説明可能性（XAI：Explainable AI）」があります。

「説明可能性（XAI）」は、AIシステムの利用者・運営者・開発者の「安全・安心」確保のため、「なぜAIがそのように判断したのか？」を説明（理解）できる手法、技術、研究分野のことです。利用者にとっては、AIが出力した結果の根拠が不明確であればAI利用のメリットは少なく、運営者にとっては、利用者への説明義務を果たせない場合はAI導入の判断には至りません。また、開発者にとっても、AIの判断根拠が分からないと、原因の特定や対策を検討することが困難です。

XAI技術は、ここ数年、とても注目されている領域です。「AI 原則実践のためのガバナンス・ガイドライン」（経済産業省、2017年7月）、「機械学習品質マネジメントガイドライン」（産総研、2020年6月)、「AI倫理勧告案」（UNESCO、2021年11月）などに、「説明可能性」に関する内容が盛り込まれており、その他、国内外における様々な機関で議論、ガイドラインの整備が進んでいます。また、多くの研究者による論文と実装コードが日々公開されており、その数は1,000を超えています。
日々アップデートされる、これら多種多様な情報をキャッチアップ、体系化し、活用にむけた検証・開発を行うことは多くの時間と専門的な知識が必要となります。NRIでは、AI技術の専門家がチームを組み、XAI技術の体系化、及びユースケースに適したXAI技術を選定するロジック（フローチャート）を作成しました。
図1は、XAI技術の手法・製品の最新情報を収集し、対応するデータ分野で分類、体系化したものです。整理した2023年3月時点では、構造化データ（統計データやPOSデータなど表形式で整理されたデータ）や画像データを対象とした製品・手法が多いですが、自然言語や音声データを対象とした製品・手法も、日々新しいものが開発されています。

図１を参照することで、AI活用したいデータに応じて、XAIの手法・製品を絞ることができます。しかし、構造化データに対応した手法・製品を見ても数多くの種類があり、これらの中から最適な一つを選択するには、さらなる専門的な知識と経験が必要です。例えば、「画像の内容を特定するAIの判断結果について、その判断要素（色、ピクセルなど）を知りたい場合」と「構造化データを分類するAIの判断モデルを簡易化したい場合」では、適している手法・製品は異なります。NRIでは、専門家チームがそれぞれの手法・製品のアルゴリズムや実装方法を七つに類型化し、ユースケースの条件をインプットに、適切なXAI技術の型、手法・製品が示されるロジック（フローチャート）を作成しました。このロジックを利用することで、XAI技術の専門家でなくても、多種多様なXAI技術から、その業務に適したXAI技術の手法・製品を容易に選択することができます。先ほどの例では、前者は「局所説明因子型」に分類され「CAM」が、後者は「大域説明　モデル説明型」に分類され「Tree Surrogate」が適した手法として導出されます。

今回は、AIの社会的活用の実現に向けては欠かせない、AIの「説明可能性（XAI）」について、NRIの調査研究の一部をご紹介しました。上記でご紹介した内容以外にも、実データを用いてXAI技術の手法・製品の検証やその評価も行っています。NRIでは、今後も、XAI技術の動向をキャッチアップし、技術の整理や体系化、及び検証を通じて、安全・安心なAIの活用を推進していきます。

[関連キーワード] #AI（人工知能） #説明可能性（XAI） #クリエイティブ