ガードレール

AIの入力と出力に制限を設け、危険な内容や規程違反を防ぐ仕組み。安全性への配慮、倫理的配慮、法令遵守の観点から、許容範囲をあらかじめ定めておく。

AIの入力と出力に制限を設け、危険な内容や規程違反を防ぐ仕組み。安全性への配慮、倫理的配慮、法令遵守の観点から、許容範囲をあらかじめ定めておく。

AIシステムが安全性、倫理、法令順守の面で不適切な出力や行動をしないよう、あらかじめ設ける制約や仕組み。有害な内容や機密情報を含む入出力の検出・遮断、扱う話題や操作の範囲の制限、AIエージェントの権限の制限などを、モデルの外側の検査機能や運用ルールとして組み込む。

法令遵守。企業が法令、社内規則、倫理規範を遵守して事業活動を行うこと。違反した場合の法的制裁やレピュテーションリスクを回避するため、コンプライアンス体制の整備が重要。

組織の業務や活動が、法令、規制、社内規程、契約などに従って行われているかを検証・評価する監査。違反の有無だけでなく、違反を防ぐための管理体制、教育、内部通報などの仕組みが有効に機能しているかも確かめる。