Parallelization（AIエージェントのワークフロー）

それぞれが専用のプロセッサ、メモリ、ストレージを持つ多数のノードにデータを分散して配置し、1つの問合せを各ノードで並列に実行する処理方式。ノードを追加すれば処理能力をほぼ比例して高められ、大規模なDWHの集計処理に使われる。データの分散のさせ方が偏ると、特定のノードに処理が集中して性能が落ちる。

大量のデータの処理を多数のサーバに分けて並列に実行するためのソフトウェア基盤。処理の分割と割当て、ノード間のデータの受渡し、故障したノードの処理のやり直しを基盤側が受け持つので、利用者は処理の内容の記述に集中できる。MapReduceを中核とするApache Hadoopと、メモリ上で処理するApache Sparkが代表的である。

作業を決まった順序の複数の段階に分け、各段階の大規模言語モデルの出力を次の段階の入力にして順に処理するAIエージェントのワークフロー。段階の間にプログラムによる検査（関門）を挟んで途中の結果を確かめられる。1回で全部を行わせるより各段階が易しくなって精度が上がるが、呼出しの回数だけ時間がかかる。

入力をまず分類し、種類ごとに用意した専用のプロンプト、処理、モデルに振り分けるAIエージェントのワークフロー。例えば問合せを返金、技術的な質問、一般的な質問に分けて別々に処理したり、簡単なものを小さなモデルに回したりする。種類ごとに処理を最適化でき、1つのプロンプトですべてに対応させるより精度が上がる。

1つの大規模言語モデルが回答を生成し、別のモデル（評価役）がそれを評価して改善点を返す処理を、基準を満たすまで繰り返すAIエージェントのワークフロー。人間が推敲を重ねるように品質を高められ、評価の基準が明確で、指摘によって改善が見込める翻訳や文書作成などに向く。

指揮役（オーケストレータ）の大規模言語モデルが、作業を動的に部分作業に分けて複数の実行役（ワーカー）のモデルに割り当て、その結果を統合するAIエージェントのワークフロー。部分作業の内容と数を事前に決めず、入力に応じて指揮役が判断する点がParallelizationと異なり、変更すべきファイルが事前に分からないプログラムの修正などに向く。