AIエージェント

目標を与えると、必要な手順を自ら計画してツールを操作しながら作業を進めるAI。人間の関与をどこに残すかの設計が、安全な利用の鍵となる。

与えられた目標を達成するために、環境を感知し、計画を立て、外部のツールやシステムを操作しながら自律的に行動するAIシステム。AI事業者ガイドライン第1.2版でも定義された。影響の大きい操作には人間の承認を挟む、権限を必要最小限に絞る、ガードレールを設けるなどの統制が求められる。

与えられた目標を達成するために、環境を感知し、計画を立て、外部のツールやシステムを操作しながら自律的にタスクを実行するAIシステム。大規模言語モデルを中核にして、検索、プログラムの実行、他のシステムへの書込みなどを自ら組み合わせて進める。人間の意図しない操作をするおそれがあるため、権限の設定や人間による確認が重要になる。

大規模言語モデル（LLM）などの生成AIに対して、悪意のある指示や入力を与えることで、本来の制約やガードレールを回避させ、意図しない動作や情報漏えいを引き起こす攻撃手法。直接的な入力によるものと、外部データに攻撃文を埋め込む間接的なものがある。

大規模言語モデル等を用いて、テキスト・画像・音声・プログラムコードなどの新たなコンテンツを自動生成するAI技術。業務効率化に活用される一方、ハルシネーション（事実に基づかない出力）やセキュリティリスク、著作権上の課題がある。

大規模言語モデルを使うアプリケーションで、入力や参照する外部の文書に紛れ込ませた指示によってモデルが本来の指示に反する動作をさせられることを防ぐ対策。システムの指示と利用者の入力・外部のデータを区別して扱う、入力と出力を検査するガードレールを設ける、モデルに与える権限やツールを必要最小限にし、重要な操作には人の確認を挟む、などを組み合わせる。

生成AIが、事実に基づかない内容や存在しない情報を、もっともらしい文章として出力する現象。大規模言語モデルは学習データからもっともらしい単語の並びを生成するため、架空の文献や誤った数値をそれらしく示すことがある。RAGで根拠となる文書を参照させる、出典を確認する、人間が内容を検証するといった対策をとる。

データにノイズを少しずつ加えていく過程を逆にたどり、ノイズから元のデータを復元するように学習する生成モデル。高品質な画像生成AIの主流方式で、テキストから画像を作るサービスの中核技術。

生成AIが作成したコンテンツに関する著作権上の論点。著作権法第30条の4により、AI学習目的の著作物利用は原則として許容される。AI生成物が既存著作物に類似する場合、依拠性と類似性が認められれば著作権侵害となり得る。AI自体は著作者にはなれない。