公平性・説明責任・透明性の原則
Fairness, Accountability and Transparency
こうへいせいせつめいせきにんとうめいせいのげんそく
AI社会原則の1つで、AIの利用によって人々が人種、性別、国籍、年齢、宗教などの背景を理由に不当な差別を受けないよう、公平で透明な意思決定と、その結果に対する説明責任（アカウンタビリティ）の確保を求める原則。AIを利用している事実やデータの取得・使用方法などについて適切な説明が得られ、AIとそれを支えるデータやアルゴリズムの信頼性が担保される必要があるとする。
Related
関連キーワードの用語
AIシステムが出した結果について、なぜその結果になったのかを、利用者や影響を受ける人が理解できる形で説明できる度合い。モデルの内部構造が複雑でも、事後に判断の根拠を示す手法を用いて確保する。AIの透明性や説明責任を支える要素で、モデルの仕組みそのものを人間が理解できるかを表す解釈可能性と区別されることがある。
機械学習モデルの用途、学習データ、評価の方法と結果、性能の限界、想定していない使い方、倫理面の配慮事項などを記載した文書。モデルを使う人が適切な使い方とリスクを判断できるようにするもので、2019年にGoogleの研究者らが提唱した。AIの透明性と説明責任を確保する手段として、モデルを公開・提供するときに添付される。
AIを、公平性、透明性、説明責任、プライバシーの保護、安全性、人間中心といった原則に沿って開発・提供・利用する考え方と、その取組み。原則を掲げるだけでなく、組織の方針、開発時の評価、運用中の監視などの仕組みとして実装することを重視する。多くのIT企業や各国政府が、それぞれの原則を公表している。
AIシステムを安全かつ倫理的に開発・運用するためのアプローチおよび原則の総称。公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、アカウンタビリティを主要な柱とし、AIによる偏見や差別の排除、説明可能性の確保、人間による監視・制御の維持を重視する考え方である。
AIの出力をそのまま結論とせず判断の材料として用い、最終的な決定は人間が行うこと。採用、融資、医療診断のように人の権利や生命に大きく影響する判断では、決定の責任を人間が負い、AIの誤りや偏りを人間が確認できるようにする。AIの判断を無批判に受け入れる自動化バイアスに陥らないことが前提で、GDPRも、本人に重大な影響を及ぼす決定を自動処理だけで行うことを原則として制限している。
行政機関が保有する行政文書について、何人も開示を請求できることを定めた法律で、正式名称は「行政機関の保有する情報の公開に関する法律」。行政機関の長は、個人に関する情報、法人の正当な利益を害する情報、国の安全に関わる情報などの不開示情報を除き、開示しなければならない。政府の説明責任を果たすための制度で、電磁的記録も対象となる。