

1件ごとに数秒かかると、数千件の仕分けが終わりません
出力トークンにも、お金がかかります
同じ入力でも、答え方が毎回少し変わります
Microsoftの発表にある例:Xbox Researchのフィードバック分類
GPT-6 Sol 2.6〜2.8秒/件 → 0.14〜0.19秒/件
※Microsoftの発表にある自社測定です
文章で答えます
理由も説明できます
そのぶん、時間とお金がかかります
選択肢ごとの確率だけ返します
理由は言いません
速くて安いです
「請求書の金額が契約と違います。至急確認してください。」
担当は? 深刻度は? 緊急?
1回で、まとめて聞けます
scoreは確率の加重平均です(この例は1.05)
| 種類 | こんな問いに | 返ってくる値 | 今回の例 |
|---|---|---|---|
| noul | はい/いいえで答えられる | 「はい」の確率 | 対応が必要か |
| choice | 並びのない選択肢から1つ選ぶ | 選択肢ごとの確率 | 文書の種類、担当部署 |
| score | 低・中・高のように順序のある段階 | 段階ごとの確率と、その加重平均 | 緊急度、機密度 |
Qwen3.5-9Bに、
判断用の追加学習
APIで使います
テキストのみ(32,768トークン)
理由は返しません
$0.042
入力100万トークンあたりです。出力は無料です

| Microsoft | Jev | OpenAI | |
|---|---|---|---|
| リクエスト | state+questions | state+questions | input+questions |
| questionsの形 | 辞書 | 辞書 | 配列 |
| はい/いいえ | noul | noul | predicate |
| 画像入力 | × | △ 実験的 | ○ |
| box(領域を返す) | ― | 1.14.0のみ | ― |
| 入力料金/100万トークン | $0.042 | $0.042 | $0.10 |
| 公開 | 10/9 | 9/15 | 10/6(beta) |
例:件名は【至急】なのに…
| 文書の種類 | 請求・見積 |
| 部署 | 経理 |
| 機密 | 機密 |
| 要対応 | はい(支払いは必要) |
| 緊急度 | 低 |
| 種類 | 部署 | 機密 | 要対応 | 緊急度 | 5問すべて | |
|---|---|---|---|---|---|---|
| Jev | 97.1 | 95.4 | 92.1 | 95.8 | 92.1 | 75.0% |
| OpenAI | 95.8 | 94.2 | 89.2 | 93.3 | 92.9 | 70.8% |
| Microsoft | 95.8 | 92.9 | 88.3 | 93.3 | 85.8 | 63.3% |
✕にすると、12件中2件で答えが変わりました
要対応の正解率 ✕ 63.7% ○ 93.3%
| p50 米国・小さい入力 | p50 日本・大きい入力 | 240件を全件 | 1万件のコスト | |
|---|---|---|---|---|
| Jev | 122ms | 172ms | 6.2秒 | $0.84 |
| OpenAI | 130ms | 199ms | 6.6秒 | $1.79 |
| Microsoft | 140ms | 361ms | 7.8秒 | $0.42 |
Microsoftは入力が長いほど遅くなります。デプロイごとに1分あたりの上限があり、今回は合計274件/分でした。単価が同じでも、トークン数はMicrosoftとJevで約2倍違います
業務文書
Decisionモデル
5問を1回で
確信度が高く、答えが一致 → 自動で振り分け
低い・割れた → 人が確認、またはLLMへ

請求書が届いたので総務部から法務部に相談するメールです。正解は「申請・稟議」で、OpenAIだけ「その他」でした
| ECE(確信度のずれ) | 日本語/英語 | |
|---|---|---|
| Microsoft | 0.047 | 86.7/90.0 |
| Jev | 0.046 | 85.8/87.5 |
| OpenAI | 0.065 | 80.0/83.3 |
日英:MASSIVE意図の正解率(%)。英語のほうが2〜3ポイント高いだけです