責任あるAI（Responsible AI）

AIシステムを安全かつ倫理的に開発・運用するためのアプローチおよび原則の総称。公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、アカウンタビリティを主要な柱とし、AIによる偏見や差別の排除、説明可能性の確保、人間による監視・制御の維持を重視する考え方である。

AIシステムを企画・開発・導入する際に、公平性、透明性、プライバシー、安全性、人権などへの影響を事前に評価し、リスクを低減する対策を決める取組み。チェックリストや影響評価の様式を使って関係者が評価し、運用を始めた後も定期的に見直す。UNESCOは、人工知能の倫理に関する勧告を実践する手段として、倫理的影響評価（EIA）の手法を示している。

機械学習モデルの用途、学習データ、評価の方法と結果、性能の限界、想定していない使い方、倫理面の配慮事項などを記載した文書。モデルを使う人が適切な使い方とリスクを判断できるようにするもので、2019年にGoogleの研究者らが提唱した。AIの透明性と説明責任を確保する手段として、モデルを公開・提供するときに添付される。

AI社会原則の1つで、AIの利用によって人々が人種、性別、国籍、年齢、宗教などの背景を理由に不当な差別を受けないよう、公平で透明な意思決定と、その結果に対する説明責任（アカウンタビリティ）の確保を求める原則。AIを利用している事実やデータの取得・使用方法などについて適切な説明が得られ、AIとそれを支えるデータやアルゴリズムの信頼性が担保される必要があるとする。

新しい科学技術を研究開発し社会に実装するときに生じる、技術的な課題以外の倫理的・法的・社会的な課題の総称。もとはヒトゲノム研究で使われた概念で、現在はAIやデータ利活用でも、プライバシー、差別や偏り、責任の所在、雇用への影響などを開発の初期段階から検討することを求める考え方として用いられる。

本人が自覚しないまま持っている、ものの見方や判断の偏りで、無意識の偏見とも呼ぶ。性別や年齢、国籍などに基づく思い込みが、採用・評価・業務の割当てといった判断に影響することがある。AIの学習データや設計にも開発者の偏りが入り込み、差別的な出力につながるおそれがあるため、自覚して点検する仕組みが必要とされる。

AIを組み込んだシステムの処理の流れの中に、人間による確認・判断・修正の工程を組み込む設計。AIの出力を人間が承認してから実行する、確信度の低い判定だけを人間に回す、人間が修正した結果を学習に戻すといった形がある。誤判定による重大な影響を防ぎ、責任の所在を明確にするために用いられる。