Prompt-Chaining

生成AIのアプリケーションで、利用者の入力とは別に、開発者や管理者があらかじめ与えておく指示。AIの役割、口調、回答の範囲、禁止事項、参照する情報などを定め、すべての対話に共通して適用される。利用者の入力で上書きされないよう、プロンプトインジェクションへの対策も必要になる。

大規模言語モデルに、最終的な答えだけでなく、そこに至る途中の推論の手順を順に書き出させる手法で、思考の連鎖ともいう。プロンプトで推論過程の例を示したり、「段階的に考えて」と指示したりすることで、計算や論理的な推論を要する問題の正答率が上がる。推論の過程を内部で長く行うよう学習した推論モデルも登場している。

大規模言語モデルやAIエージェントがよい結果を出せるよう、コンテキストウィンドウに入れる情報全体を設計・管理すること。システムプロンプト、ツールの定義、検索で取り出した文書、記憶、会話の履歴などから、その時点で必要な情報を選び、要約や圧縮をして、適切な順序で渡す。指示文の書き方を工夫するプロンプトエンジニアリングより広い考え方で、長い入力による性能の劣化（コンテキスト腐敗）への対策にもなる。

複数の大規模言語モデルの呼出しを同時に実行し、結果をプログラムで集約するAIエージェントのワークフロー。独立した部分作業に分けて並行させるセクショニングと、同じ作業を複数回実行して多数決などで結論を出す投票（ボーティング）がある。処理時間を短くでき、観点を分けて考えさせたり複数の結果で確信度を上げたりできる。

入力をまず分類し、種類ごとに用意した専用のプロンプト、処理、モデルに振り分けるAIエージェントのワークフロー。例えば問合せを返金、技術的な質問、一般的な質問に分けて別々に処理したり、簡単なものを小さなモデルに回したりする。種類ごとに処理を最適化でき、1つのプロンプトですべてに対応させるより精度が上がる。

1つの大規模言語モデルが回答を生成し、別のモデル（評価役）がそれを評価して改善点を返す処理を、基準を満たすまで繰り返すAIエージェントのワークフロー。人間が推敲を重ねるように品質を高められ、評価の基準が明確で、指摘によって改善が見込める翻訳や文書作成などに向く。