AIマネジメントシステム（ISO/IEC 42001）

組織がAIを責任を持って開発・提供・利用するための方針、目標、プロセスを確立し、継続的に改善する仕組み。要求事項を定めたISO/IEC 42001は2023年に発行され、2025年に日本産業規格JIS Q 42001となった。AIのリスクアセスメントやAIシステムの影響評価を求め、ISMSと同じ構造で第三者認証の対象となる。

組織がAIシステムを責任をもって開発・提供・利用するための方針、目標、プロセスを定め、継続的に改善する仕組み。その要求事項を定めた国際規格がISO/IEC 42001（2023年発行、日本では2025年にJIS Q 42001として制定）で、AIのリスクアセスメントと影響評価、管理策の適用などを求め、第三者認証の基準にもなる。

マネジメントシステムやサービスの適切性、妥当性、有効性を高めるために、改善の機会を特定し、改善活動を評価・承認・実施する取組みを繰り返し行うこと。PDCA サイクルを回し続けることで実現し、JIS Q 20000-1 や JIS Q 27001 などのマネジメントシステム規格で要求される。

AIなどによる自動化した処理の流れの中に、人間の判断や確認を組み込む仕組み。AIの出力を人が確かめて修正してから採用したり、重要な判断の最終決定を人が行ったりすることで、誤りや偏りによる被害を防ぎ、責任の所在を明らかにする。

要求事項を満たしていない状態。内部監査やレビューで発見され、原因を除去する是正処置とその有効性の確認が求められる。

発生した不適合の原因を取り除き、再発を防ぐための処置。応急的に症状を取り除く修正とは区別され、原因分析と有効性の確認までを含む。

AIシステムを安全かつ倫理的に開発・運用するためのアプローチおよび原則の総称。公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、アカウンタビリティを主要な柱とし、AIによる偏見や差別の排除、説明可能性の確保、人間による監視・制御の維持を重視する考え方である。

AIシステムの企画・開発・導入の際に、公平性、透明性、プライバシー、安全性、人権などへの影響を事前に評価し、リスクを減らす対策を決める取組み。チェックリストや影響評価の様式を使って関係者が評価し、運用を始めた後も定期的に見直す。