意思決定とチャット回答の違い
チャットモデルは回答を token ごとに書き出し、コード側でそれを解析する必要があります。意思決定モデルは、許可した回答をスコアリングするだけです。レスポンスはすでに構造化されています。選ばれた選択肢、選択肢ごとの確率、confidence 値です。
これにより、出力をコードで扱いやすくなります。サポートのルーターは、確率が 0.8 を超える場合はチケットを請求担当に、下回る場合は人に回せます。
3 つの質問タイプ
各質問には id、type、instructions があります。
- noul: 真か偽かの文。回答はそれが真である確率です。
- choice: 選択肢のマップから 1 つを選びます。各選択肢には任意の説明を付けられます。
- score:低い順に並んだ順序尺度上の 1 つのレベル。各レベルの確率付き。
主な用途
代表的な用途は、サポートチケットの振り分け、コメントのモデレーション、AI エージェントが次に使うツールの選択、プロンプトインジェクションの検出、RAG 向けの検索結果パッセージの評価、リードのスコアリング、対応可能な最安モデルへのプロンプトのルーティングです。プレイグラウンドにはそれぞれのサンプルが用意されています。