IT用語帳
A-1開発・運用の方法論 · AI駆動開発・AIプロジェクト

MLOps

Machine Learning Operations

えむえるおぷす

機械学習モデルの開発から本番での運用、監視、再学習までを、継続的かつ自動的に回すための考え方と仕組み。DevOpsを機械学習に適用し、データとモデルの版管理、学習パイプラインの自動化、本番データの変化による精度の劣化(ドリフト)の検知などを行う。

共有:

Related

他の資格での定義

Related

関連キーワードの用語

A-1AIを使ったセキュリティ技術(AI for Security)

機械学習や生成AIを、サイバー攻撃の検知や対応に活用する技術。通信やログの異常検知、未知のマルウェアの判定、フィッシングメールの識別、SOCでのアラートの優先順位付けやインシデント分析の支援などに使われる。AIシステム自体を攻撃から守る「Security for AI」と対になる考え方。

A-1IaC(Infrastructure as Code)

サーバ、ネットワーク、ストレージなどのインフラの構成を、手作業ではなくコード(設定ファイル)として記述し、ツールで自動的に構築・変更する手法。版管理やレビュー、テストができ、同じ環境を何度でも再現できる。TerraformやAnsibleなどのツールが使われる。

A-1データポイズニング

機械学習モデルの学習データに攻撃者が細工したデータを混入させ、モデルに誤った判断をさせたり、特定の入力のときだけ攻撃者の意図した出力をするバックドアを仕込んだりする攻撃。学習データの出所の管理や品質の検証で対策する。

A-1敵対的サンプル

人間には見分けがつかない程度の微小なノイズを入力データに加え、機械学習モデルに誤った分類や判断をさせるように細工したデータ。画像認識で道路標識を別の標識と誤認させる例が知られ、こうした入力でモデルを欺く攻撃は回避攻撃とも呼ばれる。

A-1モデルインバージョン攻撃

機械学習モデルに入力を与えて得られる出力(予測結果や確信度)を繰り返し分析し、学習に使われたデータの特徴、例えば顔認識モデルの学習に使われた人物の顔画像などを推定・復元する攻撃。学習データに含まれる個人情報のプライバシーを侵害するおそれがある。

A-1継続的デプロイ

テストを通過した変更を、人の承認を挟まずに自動的に本番環境へリリースする手法。継続的デリバリーをさらに進めたもので、自動テストの十分な網羅と、問題が起きたときに素早く戻せる仕組みが前提になる。