モデルインバージョン攻撃

機械学習モデルへの入力と出力の関係を繰り返し観測し、学習に使われた訓練データを復元する攻撃。個人情報を含むデータで学習したモデルからのプライバシー侵害につながる。出力の粒度制限や差分プライバシーで対策する。

機械学習モデルの学習データに攻撃者が細工したデータを混入させ、モデルに誤った判断をさせたり、特定の入力のときだけ攻撃者の意図した出力をするバックドアを仕込んだりする攻撃。学習データの出所の管理や品質の検証で対策する。

機械学習や生成AIを、サイバー攻撃の検知や対応に活用する技術。通信やログの異常検知、未知のマルウェアの判定、フィッシングメールの識別、SOCでのアラートの優先順位付けやインシデント分析の支援などに使われる。AIシステム自体を攻撃から守る「Security for AI」と対になる考え方。

インターネットの利用によって残る活動の記録で、デジタル足あととも呼ぶ。自ら投稿した文章や写真のように意識して残すものと、閲覧履歴、検索履歴、位置情報のように知らないうちに残るものがある。一度公開された情報は複製・拡散されて完全には消せないため、将来の進学や就職にも影響しうる。

生成AIなどのAIサービスで、利用者が入力したデータをモデルの学習や改善に利用することについて、利用者が拒否（オプトアウト）できる条件や手段を定めた方針。既定で学習に使うか、設定や申請で除外できるか、法人向けの契約では使わないかなどはサービスによって異なるため、業務で使う前に確認し、機密情報や個人情報を入力しない運用と組み合わせる。

十分な説明を受けて内容を理解したうえで、本人が自由な意思で同意すること。もとは医療で、治療の内容・危険性・代替手段を説明して患者の同意を得ることを指す。情報分野では、個人データの収集・利用の目的や第三者提供の有無などを分かりやすく示したうえで同意を得ることや、研究で参加者の同意を得ることに用いられる。

その情報が関係する個人を識別するために使える情報、またはその個人に直接・間接に結び付けられる、あるいは結び付けられうる情報。ISO/IEC 29100（JIS X 9250）などの国際規格や海外の法令で使われる概念で、氏名、識別番号、位置情報、オンライン識別子などのほか、他の情報と組み合わせることで個人を特定できる情報も含む。