長期記憶

AIエージェントが、会話やセッションをまたいで保持する情報。利用者の好み、過去のやり取りの要点、作業から得た知識などを外部の記憶装置（ベクトルデータベースやファイル）に保存し、必要なときに検索してコンテキストに加える。会話の履歴などコンテキストウィンドウ内に置く短期記憶と対比され、古い情報や誤った情報の更新・削除、個人情報の扱いの管理が要る。

AIエージェントが、1回の対話やタスクを超えて情報を保持し、後のタスクで参照できるようにする仕組み。モデルのコンテキストウィンドウに収まる短期の記憶とは別に、利用者の好みや過去の作業の結果などを外部のデータベースなどに保存し、必要なときに検索して取り出す。

大規模言語モデルやAIエージェントがタスクを適切に遂行できるよう、指示、参照する文書、会話や作業の履歴、利用できるツールの情報など、モデルに与える情報（コンテキスト）全体を設計・管理する技術。限られたコンテキストウィンドウに必要な情報を過不足なく、適切な順序で収めることを重視する。

大規模言語モデルに長い文脈を与えたとき、冒頭と末尾にある情報はよく使われるのに、中ほどにある情報が回答に反映されにくくなる現象。2023年の研究で報告された。RAGで多数の文書を渡す場合などは、重要な情報を先頭か末尾に置く、渡す文書を絞り込むなどの工夫が要る。

LLMが参照するWebページ、電子メール、文書などの外部データに悪意のある指示を埋め込んでおき、LLMがそれを処理したときに意図しない動作をさせる攻撃。利用者が気づかないうちに情報の外部送信やツールの不正な実行が起こり得るため、外部データを指示として扱わない設計が求められる。

文書、メール、画像、音声、動画のように、項目や形式が定まっておらず、そのままでは表形式で検索・集計できないデータ。企業が持つデータの大半を占めるとされ、自然言語処理や画像認識などで特徴を取り出すことで分析に使えるようになる。生成AIの普及で、検索拡張生成（RAG）の情報源としての活用も進んでいる。

利用者の指示や質問を自然言語で受け付け、情報の検索、文書の作成や要約、予定の管理などの作業を支援するAI。音声アシスタントや、業務アプリケーションに組み込まれた対話型の支援機能などがある。判断や実行の最終的な主体は利用者に残る点で、自律的に作業を進めるAIエージェントと区別されることが多い。

大規模言語モデルへの入力（コンテキスト）が長くなるほど、コンテキストウィンドウの上限内であっても、回答の正確さや指示への従い方が低下していく現象。2025年にChroma社の調査でContext Rotとして報告され、単純な課題でも入力の長さに応じて性能が落ちることが示された。必要な情報に絞って入力することが対策となる。