Routing(AIエージェントのワークフロー)
Routing Workflow
るーてぃんぐ
入力をまず分類し、種類ごとに用意した専用のプロンプト、処理、モデルに振り分けるAIエージェントのワークフロー。例えば問合せを返金、技術的な質問、一般的な質問に分けて別々に処理したり、簡単なものを小さなモデルに回したりする。種類ごとに処理を最適化でき、1つのプロンプトですべてに対応させるより精度が上がる。
Related
関連キーワードの用語
入力データと正解(ラベル)の組を大量に学習させ、未知のデータに対する正解を予測するモデルを作る機械学習の手法。数値を予測する回帰と、所属するクラスを判定する分類があり、売上予測、り患予測、成約予測、離反予測などに使われる。正解付きのデータを用意する費用と、その品質が精度を左右する。
教師あり学習の課題のうち、売上高や価格のような連続した数値を予測するもの。線形回帰、決定木、ニューラルネットワークなどのモデルを使い、予測の誤差をRMSEやMAE、当てはまりのよさを決定係数で評価する。カテゴリを予測する分類と並ぶ、教師あり学習の基本的な課題の種類である。
分類モデルの評価指標の一つで、全データのうち予測が正解と一致した割合。混同行列では(TP+TN)÷(TP+TN+FP+FN)で求める。直感的に分かりやすいが、陽性が1%しかないデータでは全件を陰性と予測しても99%になるように、クラスの偏ったデータでは性能を正しく表さないので、適合率や再現率と併せて見る。
クラスを分ける境界(超平面)を、境界に最も近いデータ(サポートベクトル)との距離であるマージンが最大になるように決める教師あり学習のモデル。マージン最大化により汎化性能が高い。誤分類をある程度許すソフトマージンと、カーネル法による非線形な境界の学習が可能で、分類のほか回帰にも使える。
ROC曲線の下側の面積で、分類モデルの性能をしきい値によらずに表す評価指標。0から1の値をとり、1に近いほどよく0.5はランダムな予測に当たり、無作為に選んだ陽性のデータに、陰性のデータより高いスコアを付ける確率と解釈できる。陽性が極めて少ないデータでは、PR曲線の下の面積も併せて見る。
作業を決まった順序の複数の段階に分け、各段階の大規模言語モデルの出力を次の段階の入力にして順に処理するAIエージェントのワークフロー。段階の間にプログラムによる検査(関門)を挟んで途中の結果を確かめられる。1回で全部を行わせるより各段階が易しくなって精度が上がるが、呼出しの回数だけ時間がかかる。
