AIエージェント

目標を与えると、必要な手順を自ら計画してツールを操作しながら作業を進めるAI。人間の関与をどこに残すかの設計が、安全な利用の鍵となる。

与えられた目標を達成するために、環境を感知し、計画を立て、外部のツールやシステムを操作しながら自律的に行動するAIシステム。AI事業者ガイドライン第1.2版でも定義された。影響の大きい操作には人間の承認を挟む、権限を必要最小限に絞る、ガードレールを設けるなどの統制が求められる。

与えられた目標を達成するために、環境を感知し、計画を立て、外部のツールやシステムを操作しながら自律的にタスクを実行するAIシステム。大規模言語モデルを中核にして、検索、プログラムの実行、他のシステムへの書込みなどを自ら組み合わせて進める。人間の意図しない操作をするおそれがあるため、権限の設定や人間による確認が重要になる。

大規模言語モデル等を用いて、テキスト・画像・音声・プログラムコードなどの新たなコンテンツを自動生成するAI技術。業務効率化に活用される一方、ハルシネーション（事実に基づかない出力）やセキュリティリスク、著作権上の課題がある。

大量のテキストデータで学習された巨大なニューラルネットワークモデル。自然言語の理解・生成に優れ、生成AIの中核技術として文章作成・要約・翻訳・プログラミング支援などに活用される。プロンプトインジェクションなどのセキュリティリスクへの対策も重要となる。

生成AIが事実に基づかない情報を、あたかも正確であるかのように生成してしまう現象。AIの幻覚とも呼ばれる。AIの出力データを人間が確認することの重要性を示す課題であり、業務利用時のリスクとして認識する必要がある。

生成AIが作成したコンテンツに関する著作権上の論点。著作権法第30条の4により、AI学習目的の著作物利用は原則として許容されるが、享受目的が併存する場合は適用されない。AI生成物が既存の著作物に類似している場合、依拠性と類似性が認められれば著作権侵害となり得る。AI自体は著作者にはなれない。

大規模言語モデル（LLM）などの生成AIに対して、悪意のある指示や入力を与えることで、本来の制約やガードレールを回避させ、意図しない動作や情報漏えいを引き起こす攻撃手法。直接的な入力によるものと、外部データに攻撃文を埋め込む間接的なものがある。

学習、推論、判断など、人間の知的な働きをコンピュータで実現する技術。データから規則性を学ぶ機械学習や、多層のニューラルネットワークを使うディープラーニング、文章や画像を作り出す生成AIなどがある。業務での利用が広がる一方、誤った出力や偏り、個人情報や著作権の扱いに注意が必要である。