ヒューマンインザループ（HITL）

HITLとも略される。AIシステムの意思決定プロセスに人間の判断を組み込む仕組み。AIの出力を人間がレビュー・修正することで、精度向上や倫理的な問題の回避を図る。

AIを組み込んだシステムの処理の流れの中に、人間による確認・判断・修正の工程を組み込む設計。AIの出力を人間が承認してから実行する、確信度の低い判定だけを人間に回す、人間が修正した結果を学習に戻すといった形がある。誤判定による重大な影響を防ぎ、責任の所在を明確にするために用いられる。

AIシステムを安全かつ倫理的に開発・運用するためのアプローチおよび原則の総称。公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、アカウンタビリティを主要な柱とし、AIによる偏見や差別の排除、説明可能性の確保、人間による監視・制御の維持を重視する考え方である。

AIシステムの企画・開発・導入の際に、公平性、透明性、プライバシー、安全性、人権などへの影響を事前に評価し、リスクを減らす対策を決める取組み。チェックリストや影響評価の様式を使って関係者が評価し、運用を始めた後も定期的に見直す。

総務省と経済産業省が、AIの開発者、提供者、利用者の各事業者に向けて、AIを安全・安心に活用するための望ましい行動を示したガイドライン。人間中心、安全性、公平性、プライバシー保護、セキュリティ確保、透明性、アカウンタビリティなどの共通の指針を示す。2024年4月に第1.0版を公表し、2026年3月の第1.2版ではAIエージェントへの対応などを加えた。

組織がAIを責任を持って開発・提供・利用するための方針、目標、プロセスを確立し、継続的に改善する仕組み。要求事項を定めたISO/IEC 42001は2023年に発行され、2025年に日本産業規格JIS Q 42001となった。AIのリスクアセスメントやAIシステムの影響評価を求め、ISMSと同じ構造で第三者認証の対象となる。

AIシステムを構成する要素を一覧にした部品表。AIモデルの名称・版・提供元、学習や評価に使ったデータセット、依存するライブラリ、ライセンスなどを記録し、来歴の追跡や脆弱性・ライセンスの管理に使う。SBOMの考え方をAIに広げたもの。

組織の従業員が生成AIなどのAIを業務で使うときのルールを定めた方針。利用してよいサービス、入力してはならない情報（機密情報や個人情報）、出力内容の確認と責任、著作権への配慮、利用目的の範囲などを定める。AIガバナンスの一部として整備し、許可されていないAIの利用（シャドーAI）を防ぐ役割もある。