AIガバナンス

AIの利用に関する方針と統制の仕組みを組織として整備し、遵守状況を監視する活動。利用範囲の定義、リスク評価、責任ある運用体制の構築を含む。

AIの利用に関する方針と統制の仕組みを組織として整備し、遵守状況を監視する活動。利用範囲の定義、リスク評価、責任ある運用体制の構築を含む。

AIの利活用によって生じるリスクをステークホルダーにとって受容できる水準で管理しつつ、AIがもたらす便益を最大化するための、技術的・組織的・社会的な仕組みの設計と運用。AI事業者ガイドラインでは、環境とリスクの分析、ゴールの設定、システムの設計、運用、評価を継続的に回すアジャイル・ガバナンスの実践を求めている。

AIなどによる自動化した処理の流れの中に、人間の判断や確認を組み込む仕組み。AIの出力を人が確かめて修正してから採用したり、重要な判断の最終決定を人が行ったりすることで、誤りや偏りによる被害を防ぎ、責任の所在を明らかにする。

生成AIなどのAIサービスで、利用者が入力したデータをモデルの学習や改善に利用することについて、利用者が拒否（オプトアウト）できる条件や手段を定めた方針。既定で学習に使うか、設定や申請で除外できるか、法人向けの契約では使わないかなどはサービスによって異なるため、業務で使う前に確認し、機密情報や個人情報を入力しない運用と組み合わせる。

組織が把握・許可していない生成AIなどのAIサービスを、従業員が業務で使うこと。シャドーITのAI版で、外部の無料サービスに機密情報や個人情報を入力して漏えいさせる、出力の誤りや権利侵害に気付けないといったリスクがある。一律に禁止するより、許可するサービスと使い方をAI利用ポリシーで示し、安全な代替手段を用意することが有効とされる。

現時点で最も高度なモデルと同等以上の能力を持ち、幅広い作業をこなせる最先端の汎用AIモデル。サイバー攻撃や生物・化学兵器の開発への悪用、偽情報の大量生成、人間の制御が及ばなくなる制御の喪失といった深刻なリスクが懸念されている。2023年に英国で開かれたAI安全性サミット以降、各国がAIセーフティ・インスティテュート（AISI）を設けて安全性の評価に取り組んでいる。

深層学習などのAI技術を用いて実在の人物の顔や声を合成し、本物と見分けにくい偽の画像・動画・音声を作る技術、またはそれによって作られたコンテンツ。偽情報の拡散、経営者の声をまねた送金指示のようななりすまし詐欺、名誉毀損などに悪用される。電子透かしや来歴情報による真正性の確認、検知技術などの対策が進められている。