責任あるAI

AIを、公平性、透明性、説明責任、プライバシーの保護、安全性、人間中心といった原則に沿って開発・提供・利用する考え方と、その取組み。原則を掲げるだけでなく、組織の方針、開発時の評価、運用中の監視などの仕組みとして実装することを重視する。多くのIT企業や各国政府が、それぞれの原則を公表している。

AIシステムの企画・開発・導入の際に、公平性、透明性、プライバシー、安全性、人権などへの影響を事前に評価し、リスクを減らす対策を決める取組み。チェックリストや影響評価の様式を使って関係者が評価し、運用を始めた後も定期的に見直す。

機械学習モデルの用途、学習データ、評価の方法と結果、性能の限界、想定していない使い方、倫理面の配慮事項などを記載した文書。モデルを使う人が適切な使い方とリスクを判断できるようにするもので、2019年にGoogleの研究者らが提唱した。AIの透明性と説明責任を確保する手段として、モデルを公開・提供するときに添付される。

AI社会原則の1つで、AIの利用によって人々が人種、性別、国籍、年齢、宗教などの背景を理由に不当な差別を受けないよう、公平で透明な意思決定と、その結果に対する説明責任（アカウンタビリティ）の確保を求める原則。AIを利用している事実やデータの取得・使用方法などについて適切な説明が得られ、AIとそれを支えるデータやアルゴリズムの信頼性が担保される必要があるとする。

説明可能なAI。AIの判断根拠や推論過程を人間が理解できるように説明する技術。ブラックボックス化しやすい深層学習の判断理由を可視化し、AIの信頼性と透明性を確保する。

2019年に日本政府が策定した、AI社会の基本原則。「人間の尊厳が尊重される社会」「多様な背景を持つ人々が多様な幸せを追求できる社会」「持続性ある社会」の3つの基本理念と、人間中心・教育リテラシー・プライバシー確保・セキュリティ確保・公正競争確保・公平性説明責任透明性・イノベーションの7原則を定めている。

2024年に総務省・経済産業省が策定した、AI事業活動に関わる事業者（AI開発者・AI提供者・AI利用者）が遵守すべきガイドライン。人間中心のAI社会原則を土台に、安全性・公平性・プライバシー保護・セキュリティ確保・透明性・アカウンタビリティなど10の共通指針を示している。