XAI（説明可能なAI）

説明可能なAIのこと。AIが導き出した判断や予測の根拠を人間が理解できる形で説明できるAI技術。ブラックボックス化しがちなAIの意思決定プロセスの透明性を高め、信頼性の向上を目指す。

説明可能なAI。AIの判断根拠や推論過程を人間が理解できる形で説明する技術や手法。AIのブラックボックス問題に対処し、AIの透明性と信頼性を高めることを目的とする。

説明可能なAI。AIの判断根拠や推論過程を人間が理解できるように説明する技術。ブラックボックス化しやすい深層学習の判断理由を可視化し、AIの信頼性と透明性を確保する。

AIが出した予測や判断について、その根拠や過程を人間が理解できる形で示せるようにしたAI、またはそのための技術。深層学習のように内部がブラックボックスになりやすいモデルに対し、どの特徴量が結果に効いたかを示すLIMEやSHAPなどの手法がある。医療、金融、採用のように判断の説明責任が求められる分野で重要となる。

AIシステムを安全かつ倫理的に開発・運用するためのアプローチおよび原則の総称。公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、アカウンタビリティを主要な柱とし、AIによる偏見や差別の排除、説明可能性の確保、人間による監視・制御の維持を重視する考え方である。

AIを、公平性、透明性、説明責任、プライバシーの保護、安全性、人間中心といった原則に沿って開発・提供・利用する考え方と、その取組み。原則を掲げるだけでなく、組織の方針、開発時の評価、運用中の監視などの仕組みとして実装することを重視する。多くのIT企業や各国政府が、それぞれの原則を公表している。

2019年に日本政府（統合イノベーション戦略推進会議）が策定した、AI社会の基本原則。「人間の尊厳が尊重される社会」「多様な背景を持つ人々が多様な幸せを追求できる社会」「持続性ある社会」の3つの基本理念を掲げ、人間中心・教育リテラシー・プライバシー確保・セキュリティ確保・公正競争確保・公平性説明責任透明性・イノベーションの7原則を定めている。

2024年に総務省・経済産業省が策定した、AI開発者・AI提供者・AI利用者が遵守すべきガイドライン。人間中心のAI社会原則を土台に、安全性・公平性・プライバシー保護・透明性・アカウンタビリティなど10の共通指針を示している。従来のAI開発ガイドライン・AI利活用ガイドラインなどを統合した文書である。

新しい科学技術やAIの研究開発・社会実装に伴って生じる、倫理的・法的・社会的な課題の総称。AIの公平性・プライバシー・雇用への影響など、技術の進展がもたらす社会的影響を多角的に検討する枠組みである。

2019年にEU（欧州委員会）のハイレベル専門家グループが策定した、信頼できるAIが満たすべき倫理的要件を示すガイドライン。信頼できるAIは合法的・倫理的・堅固であるべきとし、人間の活動と監視、堅固性と安全性、プライバシーとデータガバナンス、透明性、多様性・非差別・公平性、社会・環境福祉、説明責任の7要件を定めている。EU AI法の基盤となった。