ディープフェイク

ディープラーニング技術を使って、人物の顔や声を合成し、本人が話しているかのようなリアルな偽動画や偽音声を作成する技術。詐欺やフェイクニュースへの悪用が社会問題となっている。

AI技術（深層学習）を用いて、人物の顔や声を精巧に偽造・合成する技術、またはその成果物。なりすまし動画や音声の作成に悪用され、ビジネスメール詐欺や世論操作などに利用されるリスクがある。

AI技術（主にディープラーニング）を用いて、実在する人物の顔や声を精巧に合成・改変した偽の画像や動画を生成する技術。なりすましや偽情報の拡散に悪用されるリスクがある。

深層学習を用いて人物の顔や声を精巧に合成し、本人が話しているかのような偽の映像・音声を作る技術。経営者の声を模した指示による送金詐欺や世論操作に悪用され、生成物の検知技術やコンテンツの来歴証明が対策となる。

深層学習などのAI技術を用いて実在の人物の顔や声を合成し、本物と見分けにくい偽の画像・動画・音声を作る技術、またはそれによって作られたコンテンツ。偽情報の拡散、経営者の声をまねた送金指示のようななりすまし詐欺、名誉毀損などに悪用される。電子透かしや来歴情報による真正性の確認、検知技術などの対策が進められている。

取引先や経営者などになりすました電子メールで企業の担当者をだまし、攻撃者の口座へ送金させたり、機密情報を送らせたりする詐欺。乗っ取ったメールアカウントや似せたドメインを使うため見破りにくく、送金先の変更などの依頼は電話など別の経路で確認することが有効である。

大規模言語モデル（LLM）などの生成AIに対して、悪意のある指示や入力を与えることで、本来の制約やガードレールを回避させ、意図しない動作や情報漏えいを引き起こす攻撃手法。直接的な入力によるものと、外部データに攻撃文を埋め込む間接的なものがある。

機械学習モデルに対し、人間には知覚できない微小なノイズや変更を入力データに加えることで、AIの判定結果を意図的に誤らせる攻撃手法、またはそのために加工されたデータ。画像認識の誤判定誘導やマルウェア検知の回避などに悪用される。推論時（利用時）の攻撃に分類される。

AIモデルの学習に使用される訓練データに悪意のあるデータを混入させることで、モデルの判定精度を低下させたり、特定の誤動作を引き起こす攻撃手法。敵対的サンプルが推論時の攻撃であるのに対し、データポイズニングは学習時の攻撃である点が異なる。

AI技術を攻撃ツールとして悪用するサイバー攻撃の総称。ディープフェイクによるなりすまし、AIによるフィッシングメールの自動生成、マルウェアコードの生成、脆弱性の自動探索などが含まれる。IPA「情報セキュリティ10大脅威 2026」で初めてランクインした新たな脅威カテゴリである。

取引先や経営層になりすました電子メールで、送金や機密情報の送付を指示する詐欺。マルウェアを使わず正規のやり取りを装うため、技術的対策だけでは検知しにくい。