敵対的サンプル

人間には気付けないわずかな加工を加え、AIに誤認識させるよう作られた入力データ。標識の画像に小さなノイズを乗せて別の標識と判定させるなど、AIを利用したシステムへの攻撃手段となる。

人間には気付けない微小な変更を加えて、AIに誤った判定をさせるよう作られた入力データ。画像認識や不正検知を回避する攻撃に使われ、AIを組み込んだシステムの新たな脅威となる。

人には違いが分からない微小な変更を加えて、AIに誤った判断をさせるように作られたデータ。標識に小さな細工をして自動運転車に誤認させるなど、AIを狙った脅威として問題になっている。

人間には気付けないほど微小な摂動を加えて、機械学習モデルにわざと誤認識させる入力データ。標識に小さな細工をして自動運転の認識を誤らせるなどの脅威があり、敵対的学習や入力の前処理で頑健性を高める。

機械学習モデルに対し、人間には知覚できない微小なノイズや変更を入力データに加えることで、AIの判定結果を意図的に誤らせる攻撃手法、またはそのために加工されたデータ。画像認識の誤判定誘導やマルウェア検知の回避などに悪用される。推論時（利用時）の攻撃に分類される。

人間には見分けがつかない程度の微小なノイズを入力データに加え、機械学習モデルに誤った分類や判断をさせるように細工したデータ。画像認識で道路標識を別の標識と誤認させる例が知られ、こうした入力でモデルを欺く攻撃は回避攻撃とも呼ばれる。

AIモデルの学習に使用される訓練データに悪意のあるデータを混入させることで、モデルの判定精度を低下させたり、特定の誤動作を引き起こす攻撃手法。敵対的サンプルが推論時の攻撃であるのに対し、データポイズニングは学習時の攻撃である点が異なる。

大規模言語モデル（LLM）などの生成AIに対して、悪意のある指示や入力を与えることで、本来の制約やガードレールを回避させ、意図しない動作や情報漏えいを引き起こす攻撃手法。直接的な入力によるものと、外部データに攻撃文を埋め込む間接的なものがある。

AI技術（特にディープラーニング）を用いて、人物の顔や声を精巧に合成・改変する技術、またはその生成物。ビジネスメール詐欺（BEC）やなりすましによるソーシャルエンジニアリング攻撃に悪用されるリスクがあり、音声・映像の真正性検証が課題となっている。

AI技術を攻撃ツールとして悪用するサイバー攻撃の総称。ディープフェイクによるなりすまし、AIによるフィッシングメールの自動生成、マルウェアコードの生成、脆弱性の自動探索などが含まれる。IPA「情報セキュリティ10大脅威 2026」で初めてランクインした新たな脅威カテゴリである。

取引先や経営層になりすました電子メールで、送金や機密情報の送付を指示する詐欺。マルウェアを使わず正規のやり取りを装うため、技術的対策だけでは検知しにくい。

脆弱性を悪用して不正な動作を引き起こすために作られたプログラム。検証目的で公開されることもあり、公開後は攻撃が急増しやすい。