ディープフェイク

ディープラーニング技術を使って、人物の顔や声を合成し、本人が話しているかのようなリアルな偽動画や偽音声を作成する技術。詐欺やフェイクニュースへの悪用が社会問題となっている。

AI技術（深層学習）を用いて、人物の顔や声を精巧に偽造・合成する技術、またはその成果物。なりすまし動画や音声の作成に悪用され、ビジネスメール詐欺や世論操作などに利用されるリスクがある。

AI技術（主にディープラーニング）を用いて、実在する人物の顔や声を精巧に合成・改変した偽の画像や動画を生成する技術。なりすましや偽情報の拡散に悪用されるリスクがある。

深層学習を用いて人物の顔や声を精巧に合成し、本人が話しているかのような偽の映像・音声を作る技術。経営者の声を模した指示による送金詐欺や世論操作に悪用され、生成物の検知技術やコンテンツの来歴証明が対策となる。

AI技術（特にディープラーニング）を用いて、人物の顔や声を精巧に合成・改変する技術、またはその生成物。ビジネスメール詐欺（BEC）やなりすましによるソーシャルエンジニアリング攻撃に悪用されるリスクがあり、音声・映像の真正性検証が課題となっている。

情報があふれる中で、人々の関心や注目（アテンション）が希少な資源となり、それを獲得すること自体が経済的な価値をもつ状況。広告収入を得るため、SNSや動画サービスでは、より刺激的で強い感情を呼ぶ投稿が拡散されやすくなり、偽情報や過激な内容の拡散、フィルターバブルを助長すると指摘されている。

生成AIなどのAIサービスで、利用者が入力したデータをモデルの学習や改善に利用することについて、利用者が拒否（オプトアウト）できる条件や手段を定めた方針。既定で学習に使うか、設定や申請で除外できるか、法人向けの契約では使わないかなどはサービスによって異なるため、業務で使う前に確認し、機密情報や個人情報を入力しない運用と組み合わせる。

組織の従業員が生成AIなどのAIを業務で使うときのルールを定めた方針。利用してよいサービス、入力してはならない情報（機密情報や個人情報）、出力内容の確認と責任、著作権への配慮、利用目的の範囲などを定める。AIガバナンスの一部として整備し、許可されていないAIの利用（シャドーAI）を防ぐ役割もある。

組織が把握・許可していない生成AIなどのAIサービスを、従業員が業務で使うこと。シャドーITのAI版で、外部の無料サービスに機密情報や個人情報を入力して漏えいさせる、出力の誤りや権利侵害に気付けないといったリスクがある。一律に禁止するより、許可するサービスと使い方をAI利用ポリシーで示し、安全な代替手段を用意することが有効とされる。

生成AIがコードを生成する際に実在しないパッケージ名を提案してしまう現象（パッケージハルシネーション）を悪用する攻撃。攻撃者は、AIが提案しがちな架空のパッケージ名でマルウェアを仕込んだパッケージを公開リポジトリに登録し、AIの提案をそのまま使った開発者にインストールさせる。タイポスクワッティングになぞらえた造語で、依存パッケージの実在と信頼性を確認することが対策となる。

現時点で最も高度なモデルと同等以上の能力を持ち、幅広い作業をこなせる最先端の汎用AIモデル。サイバー攻撃や生物・化学兵器の開発への悪用、偽情報の大量生成、人間の制御が及ばなくなる制御の喪失といった深刻なリスクが懸念されている。2023年に英国で開かれたAI安全性サミット以降、各国がAIセーフティ・インスティテュート（AISI）を設けて安全性の評価に取り組んでいる。