IPビジネスインダストリ · ビジネスシステム

トロッコ問題

Trolley Problem

とろっこもんだい

暴走するトロッコを前に、一人を犠牲にして五人を救うべきかを問う思考実験。自動運転車が事故を避けられない場面で誰を優先するかという、AIに倫理的判断を委ねる際の難しさを示す例として引用される。

共有:

関連キーワードの用語

総務省が示した、AIの利用者が留意すべき事項をまとめた指針。適正利用、適正学習、連携、安全、セキュリティ、プライバシー、尊厳・自律、公平性、透明性、アカウンタビリティの各原則から成る。

人工知能学会が会員の研究者・技術者に向けて定めた倫理指針。人類への貢献、安全性、公正性、社会との対話などを掲げ、AI自身にも同等の倫理遵守を求める条項を含む点が特徴である。

AIの判断が特定の属性の人に不利になるなど、体系的な偏りを持つこと。学習データに含まれる社会的な偏りや、設計上の前提が原因で生じ、採用や与信の審査で差別的な結果を招くおそれがある。

AIの利用にあたって社会が守るべき考え方を国が示した原則。人間の尊厳、多様性と包摂、持続可能性を基本理念とし、公平性や説明責任などを求める。

AIの開発者・提供者・利用者が守るべき事項を整理した国のガイドライン。人間中心、安全性、公平性、透明性などの指針を、立場ごとの行動として具体化している。

AIの入力と出力に制限を設け、危険な内容や規程違反を防ぐ仕組み。安全性への配慮、倫理的配慮、法令遵守の観点から、許容範囲をあらかじめ定めておく。