アンコンシャスバイアス
Unconscious Bias
あんこんしゃすばいあす
本人が自覚しないまま持っている、ものの見方や判断の偏りで、無意識の偏見とも呼ぶ。性別や年齢、国籍などに基づく思い込みが、採用・評価・業務の割当てといった判断に影響することがある。AIの学習データや設計にも開発者の偏りが入り込み、差別的な出力につながるおそれがあるため、自覚して点検する仕組みが必要とされる。
Related
関連キーワードの用語
新しい科学技術を研究開発し社会に実装するときに生じる、技術的な課題以外の倫理的・法的・社会的な課題の総称。もとはヒトゲノム研究で使われた概念で、現在はAIやデータ利活用でも、プライバシー、差別や偏り、責任の所在、雇用への影響などを開発の初期段階から検討することを求める考え方として用いられる。
悪意の有無にかかわらず、日常の何気ない言動に表れる、人種、性別、国籍、性的指向などの属性への偏見や固定観念によって、相手を傷つけたり疎外感を与えたりすること。「女性なのに理系が得意なんですね」のように、言った側は褒め言葉のつもりでも相手を傷つけることがある。小さな言動の積み重ねが、職場やオンラインのコミュニケーションで心理的な負担になる。
AIシステムを企画・開発・導入する際に、公平性、透明性、プライバシー、安全性、人権などへの影響を事前に評価し、リスクを低減する対策を決める取組み。チェックリストや影響評価の様式を使って関係者が評価し、運用を始めた後も定期的に見直す。UNESCOは、人工知能の倫理に関する勧告を実践する手段として、倫理的影響評価（EIA）の手法を示している。
AIを、公平性、透明性、説明責任、プライバシーの保護、安全性、人間中心といった原則に沿って開発・提供・利用する考え方と、その取組み。原則を掲げるだけでなく、組織の方針、開発時の評価、運用中の監視などの仕組みとして実装することを重視する。多くのIT企業や各国政府が、それぞれの原則を公表している。
UNESCO（国連教育科学文化機関）が2021年11月の総会で採択した、AI倫理に関する初めての世界規模の規範。人権と人間の尊厳の尊重、多様性と包摂性、環境への配慮などの価値と、透明性・説明可能性、人間による監視と決定、プライバシーの保護などの原則を掲げ、加盟国に政策として実施するよう求めている。実施の手段として、倫理的影響評価などの手法も示されている。
AIを社会で適切に活用するための基本原則として、2019年3月に日本政府の統合イノベーション戦略推進会議が決定したもの。人間の尊厳、多様性・包摂性、持続可能性を基本理念に掲げ、目指す社会像としてAI-Readyな社会を示したうえで、社会が留意すべき7つのAI社会原則と、開発者・事業者が定めるべきAI開発利用原則に体系化している。