データポイズニング

AIモデルの学習に使用される訓練データに悪意のあるデータを混入させることで、モデルの判定精度を低下させたり、特定の誤動作を引き起こす攻撃手法。敵対的サンプルが推論時の攻撃であるのに対し、データポイズニングは学習時の攻撃である点が異なる。

機械学習モデルの学習データに攻撃者が細工したデータを混入させ、モデルに誤った判断をさせたり、特定の入力のときだけ攻撃者の意図した出力をするバックドアを仕込んだりする攻撃。学習データの出所の管理や品質の検証で対策する。

機械学習モデルに対し、人間には知覚できない微小なノイズや変更を入力データに加えることで、AIの判定結果を意図的に誤らせる攻撃手法、またはそのために加工されたデータ。画像認識の誤判定誘導やマルウェア検知の回避などに悪用される。推論時（利用時）の攻撃に分類される。

大規模言語モデル（LLM）などの生成AIに対して、悪意のある指示や入力を与えることで、本来の制約やガードレールを回避させ、意図しない動作や情報漏えいを引き起こす攻撃手法。直接的な入力によるものと、外部データに攻撃文を埋め込む間接的なものがある。

エージェントが環境と相互作用し、報酬を最大化する行動方策を学習する手法。試行錯誤を通じて最適な行動を獲得する。Q学習やSARSAが代表的なアルゴリズムで、ゲームAIやロボット制御に応用される。

AI技術を攻撃ツールとして悪用するサイバー攻撃の総称。ディープフェイクによるなりすまし、AIによるフィッシングメールの自動生成、マルウェアコードの生成、脆弱性の自動探索などが含まれる。IPA「情報セキュリティ10大脅威 2026」で初めてランクインした新たな脅威カテゴリである。

データの処理や、機械学習のモデルの構築、学習、評価、推論を効率よく行うためのソフトウェアの枠組み。データの前処理、ニューラルネットワークの層の定義、GPUを使った計算などの機能を提供する。TensorFlow、PyTorch、scikit-learnなどがある。

あるデータの分布（ソースドメイン）で学習したモデルを、分布の異なる別の環境（ターゲットドメイン）でも性能を保って使えるように適応させる手法。転移学習の一種で、シミュレーションで学習した制御を現実のロボットに移す場合や、別の工場・別のカメラで撮影した画像に適用する場合に使う。