なごあずの集い#10(対面(名古屋))
最近流行ってるDecisionモデルってなーに?
Microsoft-Decision-1 を動かして、Jev と OpenAI と日本語で比べてみた
スライド上で ← → キーかクリックでページ送り、F で全画面表示。スマートフォンでは 新しいタブで開くと見やすくなります。
この資料について
Decision モデルは、状況と選択肢を渡すと、文章を生成せずに選択肢ごとの確率を返す専用モデルです。エージェントの分岐判断のためだけに LLM を呼んでいる場面を、速く安く置き換えられる可能性があります。この資料では、LLM との違い、質問の形式の使い分け、返ってくる値の読み方を説明します。
あわせて、Microsoft-Decision-1 を Microsoft Foundry にデプロイして HTTP で呼び出し、Jev、OpenAI Decisions API と、日本語の業務文書(合成データ 240 件)で精度・確信度・速さ・コストを比べました。比較の測定条件と限界、使いどころ、これからの見通しまでを 25 分で話しました。