自律性と人間の関与

AIにどこまで自動で判断させ、どこから人間が確認するかの線引き。最終承認や例外処理を人間が担うことで、影響の大きい判断の責任を保つ。

AIエージェントにどこまで自律的に判断・実行させ、どこで人間が確認や介入をするかの線引き。影響の大きい操作の最終承認や、想定外の状況での例外処理を人間が担うように、業務プロセスの中に人間の判断を挟む箇所を設ける。自律性を高めるほど効率は上がるが、誤動作の影響と責任の所在に注意が要る。

AIエージェントにどこまで自律的に判断・実行させ、どの場面で人間が確認・承認・介入するかの度合いの設計。自律性を高めると効率は上がるが、誤った操作や想定外の行動の影響も大きくなるため、重要な操作の前に人間の承認を求めるヒューマンインザループ、操作履歴の監視、停止の手段などを用意し、リスクに応じて関与の度合いを決める。

法令遵守のこと。企業が法律や規則、社会的規範、企業倫理を守って事業活動を行うこと。法令違反だけでなく、社会的な期待に応える広い意味での適法・適正な行動を含む。

総務省が示した、AIの利用者が留意すべき事項をまとめた指針。適正利用、適正学習、連携、安全、セキュリティ、プライバシー、尊厳・自律、公平性、透明性、アカウンタビリティの各原則から成る。

人工知能学会が会員の研究者・技術者に向けて定めた倫理指針。人類への貢献、安全性、公正性、社会との対話などを掲げ、AI自身にも同等の倫理遵守を求める条項を含む点が特徴である。

AIの判断が特定の属性の人に不利になるなど、体系的な偏りを持つこと。学習データに含まれる社会的な偏りや、設計上の前提が原因で生じ、採用や与信の審査で差別的な結果を招くおそれがある。

暴走するトロッコを前に、一人を犠牲にして五人を救うべきかを問う思考実験。自動運転車が事故を避けられない場面で誰を優先するかという、AIに倫理的判断を委ねる際の難しさを示す例として引用される。

AIの利用にあたって社会が守るべき考え方を国が示した原則。人間の尊厳、多様性と包摂、持続可能性を基本理念とし、公平性や説明責任などを求める。