FEセキュリティ · 情報セキュリティ対策
AIシステムを守るための対策（Security for AI）
Security for AI
えーあいしすてむをまもるためのたいさく
AIシステムそのものを攻撃から守るための対策。プロンプトインジェクションやジェイルブレイクに備えた入力と出力の検証、データポイズニングを防ぐ学習データの管理、RAG用のデータへのアクセス制御、モデルの盗用への対策などがある。AIを使ってセキュリティを高めるAI for Securityと対比される。
共有:
Related
他の資格での定義
SGAIシステムを守るための対策（Security for AI）
AIシステムそのものを攻撃から守るための対策。プロンプトインジェクション、データポイズニング、学習データやモデルの窃取などの脅威に対し、入出力の検証、参照するデータへのアクセス制御、学習データの品質管理などを行う。
A-1AIシステムを守るための対策（Security for AI）
AIシステムそのものを攻撃や悪用から守るための対策。LLMへのプロンプトインジェクション、学習データに不正なデータを混入させるデータポイズニング、モデルの窃取、RAGを通じた機密情報の漏えいなどの脅威に対し、入出力の検証、外部参照データの分離、参照データへのアクセス制御、学習データの品質と来歴の管理などを行う。AIをセキュリティ対策に活用する「AI for Security」と対になる考え方。