ガードレール

AIの入力と出力に制約や検査を設け、有害な内容の生成、機密情報や個人情報の漏えい、法令や社内規程への違反、想定外の操作を防ぐ仕組み。入力時のガードレールは不適切な依頼やプロンプトインジェクションを検知し、出力時のガードレールは生成結果を検査して遮断・修正する。安全性、倫理、法令遵守の観点から許容範囲を定める。

AIの入力と出力に制限を設け、危険な内容や規程違反を防ぐ仕組み。安全性への配慮、倫理的配慮、法令遵守の観点から、許容範囲をあらかじめ定めておく。

AIシステムが安全性、倫理、法令順守の面で不適切な出力や行動をしないよう、あらかじめ設ける制約や仕組み。有害な内容や機密情報を含む入出力の検出・遮断、扱う話題や操作の範囲の制限、AIエージェントの権限の制限などを、モデルの外側の検査機能や運用ルールとして組み込む。

AIの利用にあたって社会が守るべき考え方を国が示した原則。人間の尊厳、多様性と包摂、持続可能性を基本理念とし、公平性や説明責任などを求める。

AIの開発者・提供者・利用者が守るべき事項を整理した国のガイドライン。人間中心、安全性、公平性、透明性などの指針を、立場ごとの行動として具体化している。

AIにどこまで自動で判断させ、どこから人間が確認するかの線引き。最終承認や例外処理を人間が担うことで、影響の大きい判断の責任を保つ。

AIの開発・利用が社会や個人に及ぼす影響を考慮し、公平性、透明性、説明責任などを守ろうとする考え方。差別的な出力や権利侵害を避ける判断の基準となる。

総務省が示した、AIの利用者が留意すべき事項をまとめた指針。適正利用、適正学習、連携、安全、セキュリティ、プライバシー、尊厳・自律、公平性、透明性、アカウンタビリティの各原則から成る。

人工知能学会が会員の研究者・技術者に向けて定めた倫理指針。人類への貢献、安全性、公正性、社会との対話などを掲げ、AI自身にも同等の倫理遵守を求める条項を含む点が特徴である。