自律性と人間の関与

AIエージェントにどこまで自律的に判断・実行させ、どこで人間が確認や介入をするかの線引き。影響の大きい操作の最終承認や、想定外の状況での例外処理を人間が担うように、業務プロセスの中に人間の判断を挟む箇所を設ける。自律性を高めるほど効率は上がるが、誤動作の影響と責任の所在に注意が要る。

AIエージェントにどこまで自律的に判断・実行させ、どの場面で人間が確認・承認・介入するかの度合いの設計。自律性を高めると効率は上がるが、誤った操作や想定外の行動の影響も大きくなるため、重要な操作の前に人間の承認を求めるヒューマンインザループ、操作履歴の監視、停止の手段などを用意し、リスクに応じて関与の度合いを決める。

AIの利用にあたって社会が守るべき考え方を国が示した原則。人間の尊厳、多様性と包摂、持続可能性を基本理念とし、公平性や説明責任などを求める。

AIの開発者・提供者・利用者が守るべき事項を整理した国のガイドライン。人間中心、安全性、公平性、透明性などの指針を、立場ごとの行動として具体化している。

AIの入力と出力に制限を設け、危険な内容や規程違反を防ぐ仕組み。安全性への配慮、倫理的配慮、法令遵守の観点から、許容範囲をあらかじめ定めておく。

AIの開発・利用が社会や個人に及ぼす影響を考慮し、公平性、透明性、説明責任などを守ろうとする考え方。差別的な出力や権利侵害を避ける判断の基準となる。

AIの利用に関する方針と統制の仕組みを組織として整備し、遵守状況を監視する活動。利用範囲の定義、リスク評価、責任ある運用体制の構築を含む。

法令遵守のこと。企業が法律や規則、社会的規範、企業倫理を守って事業活動を行うこと。法令違反だけでなく、社会的な期待に応える広い意味での適法・適正な行動を含む。