今話題のAI「Jev」って何？ 宇宙最速で学ぶ会

今話題のAI「Jev」って何？ 宇宙最速で学ぶ会 - connpass
https://minorun365.connpass.com/event/407308/

Transcript

1. 今話題のAI「Jev」って何？ 宇宙最速で学ぶ会 みのるん @minorun365
2. 御田 稔（みのるん） KDDIアジャイル開発センター株式会社 テックエバンジェリスト AWS AI Hero / AWS Samurai Qiita 2025 Top Contributor デブサミ2026 ベストスピーカー 2
3. LLM の返事を待つ時間、ありますよね？ Claude Code に「このテスト直して」と頼み、 考えているのを眺める数十秒 ChatGPT に長文を貼って、 少しずつ出てくるのを待つ 自作エージェントをデプロイしたら、 1リクエスト数十秒でタイムアウト 3
4. 欲しいのは文章ではなく「判断」だけ、という場面 請求の話 → 経理へ 問い合わせが届いた 「請求が⼆重です」 if（判断） どの話？ 不具合の話 → 開発へ それ以外 → 営業へ Claude Code が打つコマンド、危ない？（はい／いいえ） 届いた問い合わせの担当は？（請求・技術・営業） でも LLM に聞くと、毎回ていねいな文章が返ってくる 4
5. そこに今週、こんな発表が
6. 元 OpenAI の研究者が、新会社から発表！ 9/15（火）、TypeSafe AI が初のモデル「Jev」を発表 創業者の1人 Diogo Almeida さんは、 ChatGPT の土台になった InstructGPT 論文の共著者 6
7. 発表の日に、どれだけ騒がれたか 技術者の掲示板 Hacker News で 1,800 ポイント超え。 1,000 超えの投稿は、全期間で約2,700件しかない 同じ日に 4,000万ドル（約60億円）を調達。 DCVC 主導のシードで、この額 7
8. 「チャットはずっと超人的なのに、 自動化はどこにあるんだろう？」 発表ブログの1行目。創業者が4年間、抱えていた問い
9. 今のAIは「馬なし馬車」だと言う 会社のマニフェストに、初期の自動車の写真が出てきます。 初期の自動車は、馬車の座席とバネを残して 馬をモーターに替えたもの 今の AI も、人が相手の「親切な助手」として作られている だから人を横に置く必要があり、 裏で黙って動く自動化にならない 9
10. 馬車の形を捨てて作ったのが、Jev 人に話しかける助手ではなく、 プログラムの中で「判断」だけを担う部品。 状況と質問を渡すと、選択肢から答えと確率が返る。 文字は1文字も書かない 分類名は System One Model。Jev が第1号 脚注では「smart if-statements」と自称 10
11. ところで、なんで 「システム1」で「Jev」なの？
12. 名前の由来①『ファスト＆スロー』 心理学者カーネマンは、人の思考を2つのモードで説明しました システム1 システム2 速くて直感的。 遅くて論理的。 危ないと感じて避ける、機嫌を読む 計算する、じっくり比べる 本ではシステム1は「早とちり」する側。TypeSafe は、 それでもほかのやり方より信頼できるものにできると言います 12
13. 名前の由来② ジェヴォンズのパラドックス Jev は経済学者ウィリアム・スタンレー・ジェヴォンズから。 1865年の著書『石炭問題』で、こう指摘しました 蒸気機関の効率が上がったら、 石炭の消費は減らずに増えた 安くなると、割に合わなかった使い方が増える TypeSafe は、知能も同じ道をたどると見ている 13
14. 何が嬉しいの？ 発表ブログの比較表から 学習のさせ方 返ってくるもの 生成のしかた 速さ 料金 自信 これまでの LLM 人の好みに合わせる（RLHF） 文字列。パースが要る 1トークンずつ順番に 3〜329秒 入力 $0.2〜10、出力は約5倍 聞いても過大 Jev 較正された判断（RLCD） 型の決まった値と確率 1回の呼び出しで同時に 0.07〜0.5秒 入力 $0.042、出力 $0 常に確信度を返す 14
15. 出力トークンは無料。計測するまでもない安さ 入力は 100万トークンで $0.042。10億トークンでも $42 出力の欄は「FREE（too cheap to meter）」 15
16. つまり、すごく雑に言うと 「賢い if 文」
17. LLMは、1トークンずつ順番に書いている 1つ書くごとに、モデル全体を1回動かす 問い合わせ⽂ ＋「JSONで答えて」 { "dep art ment ": … 全部書き終わるまで待ってから、JSON にパースして検証 数秒〜数分。型が崩れる・余計な文が混ざる、も起こりうる 17
18. Jevは、状況と質問をまとめて1回だけ読む state（状況） 問い合わせ⽂そのまま questions（質問） 担当は？ 怒ってる？ ⾄急？ Jev まとめて1回だけ読む ⽂章は書かない ？ 18
19. 全部の答えが、確率つきで同時に返ってくる！ state（状況） 問い合わせ⽂ questions（質問） 3つまとめて Jev 1回の呼び出し 担当は 技術 0.93 怒り 0.98／2 確信度 0.87 ⾄急は yes 0.88 出力トークンは無料。答えは必ず、選択肢の中に収まります 19
20. それって、Structured Output と 何が違うの？
21. 似たものとの違い やり方 中身 Jev との違い Structured Output JSON の形に縛る 生成は生成。速さもほぼ同じ 専用の分類モデル 自前で学習させる データと運用が要る Jev 言葉で聞き、確率で答える 学習なし。並列。確信度つき 21
22. 質問の型は、3つだけ！ 型 聞き方 返るもの Choice 請求・技術・営業、どの部署の話？ 選んだ1つと、全選択肢の確率 Score 怒りの度合いは、3段階のどこ？ 0〜2 の位置と、各段階の確率 Noul この問い合わせは至急？ yes の確率 0〜1 3種類を1回の呼び出しに、まとめて混ぜられます 22
23. 実際に、日本語で動かしてみた
24. 問い合わせ1件に、質問を1つ投げる const result = await evaluate({ model: 'typesafe-ai/jev', state: 'Stripe連携が3日前から失敗しています。至急です。', questions: { department: { type: 'choice', instructions: '担当する部署は？', criteria: { billing: '請求', technical: '不具合', sales: '契約', }, }, }, }); 24
25. 返ってきたのがこれ { } "department": { "type": "choice", "choice": "technical", "probabilities": { "billing": 0.07, "technical": 0.93, "sales": 0.00 } } 文章はゼロ。答えと、選択肢ごとの確率だけ 質問を3つに増やしても、往復は 中央値 0.35 秒 25
26. Slack のメッセージも、領収書も、同じ形 状況（state） 「明日15時の定例、 30分ずらせますか？」 スタバ 1,290円 メモ「顧客と打ち合わせ」 DB の削除保護を false にする diff 聞いたこと 意図は？ 返信は要る？ 科目は？ 私的利用の疑いは？ 危険度は？ 人のレビューは要る？ 返ってきた答え 日程調整（1.00） 要る（0.91） 会議費（1.00） 疑い薄い（0.23） 高（1.8／2） 要る（0.83） 26
27. 12個の質問を、1回の呼び出しで 記事の下書き1本に、結論の有無・想定読者・技術的な深さ・ 分かりやすさ・煽りの強さ……を、まとめて12問 返ってくるまで 0.39 秒。3問のときと、ほぼ同じ 「投稿先は？」には Qiita 0.76、Zenn 0.07 27
28. 答えの隣にある「確信度」、 何に使うの？
29. 確信度で、自動・確認・人へ、の3段階に分ける const dept = result.answers.department; const conf = result.providerMetadata.typesafe.confidence.department; if (conf < 0.5) { routeToHuman(ticket); } else if (conf > 0.9) { assignTo(dept.choice); } else { askUserToConfirm(dept.choice); } // 迷っている。人へ回す // 自信あり。自動で割り当て // その間。本人に確認 しきい値は「間違えたときの取り返しのつかなさ」で変える 「分からない」と言えるので、コード側で安全に分岐できる 29
30. 同じ質問、JevとLLMで何秒？ 0.35 秒 1.34 秒 Jev Claude Haiku 4.5 10回の中央値 10回の中央値 同じ問い合わせ・同じ3問・同じ Gateway、東京から計測 30
31. で、何に使えるの？
32. 公式が推す使いどころ① 問い合わせ・Slack・メールを、 届いた瞬間に担当へ振り分ける LLM の出力を採点して、 ジェイルブレイクや脱線を見つける 32
33. 公式が推す使いどころ② 検索で拾った候補を、 関係の深い順に並べ直す シューティングゲーム DOOM を毎秒10回判定。 1時間で約7ドル 33
34. Jev が3Dシューティングを遊ぶ、公式のデモ 1993年の名作 DOOM を、平均 0.14 秒の判断で遊び続ける 34
35. 発表から3日で、世界で作られたもの① browser-use ブラウザ操作エージェント。 操作と操作先を Jev が選び、 Google Flights の検索が 7.1 秒 jevmeter 動画の「はぐらかし」メーター。 字幕1文ごとに5問を投げ、 討論1本 5,955 判定で 5セント 35
36. 発表から3日で、世界で作られたもの② Emoji Jev 入力が止まるたびに、 絵文字を並べ替える。 1回 約0.1秒・$0.0002 pi-jev コーディングエージェントの ツール実行ゲート。「破壊的？ 秘密を外へ出す？」を実行前に毎回 36
37. 具体的に、どこへ組み込む？
38. ① 問い合わせフォームを、打っている途中で判定 入力が止まるたびに聞いても、0.3秒台で返る。送信前に出せる ⼊⼒中のフォーム Jev に聞く 「PC が起動しなく なりました…」 FAQ で⾜りる？ 緊急？ どの窓⼝？ FAQ を横に出す 当番へ即エスカレ そのまま送信させる 38
39. ② コード変更の危険度チェック コミット前の diff を Jev に見せる 「本番データを失う？ メッセージは正確？ 人のレビュー要？」 実測では DB の削除保護を外す変更に、危険度 1.8／2、 人のレビュー 0.83。こういう変更だけ止める 39
40. ③ 公式サンプル：ツール呼び出しを Jev で 株価ツール10個・引数28個を、54問にして1回で聞く LLM を呼ばずに、選ばれた関数をそのまま実行 選べるのは選択肢の引数だけ。自由な文字列は作れない 依頼 選ばれた呼び出し 確信度 テスラの値動きの荒さは？ volatility(TSLA) 0.96 3銘柄を3か月で比べて compare_returns(NVDA,AMD,MSFT,3mo) 0.94 40
41. ④ 公式サンプル：スキル選び スキルが182個あると、60文字の説明だけで選んで読み違える Jev が全部を採点して3つに絞り、中身を読んで1つ選ぶ（なしもあり） 選んだ名前を、システムプロンプトに1行足すだけ エージェントだけ Jev の提案つき 違うスキルを読む 要らないのに読む 16.8% 7.3% 9.8% 4.0% 41
42. いいことばかり？ 弱点はないの？
43. 正直な注意点① 数えるのと、日付の前後を比べるのが苦手。 計算はコードでやり、Jev には「判断」だけ聞く 質問を字義どおりに読む。意図は汲んでくれない 43
44. 正直な注意点② 文章は書けない。 生成が要るところは LLM と組み合わせる 「200倍速い」は自社の評価。 ブログも「上限側の数字」と明記 44
45. で、どうやって触るの？
46. 公式は招待制。まずウェイトリストへ typesafe.ai 右上の「Join Waitlist」から登録 招待が届くと Playground と API キーが使える 私も登録済み。9/17 時点でまだ招待待ち 46
47. 待てない人は、Vercel AI Gateway で今日から 9/16（水）に追加。モデル名は typesafe-ai/jev 無料枠の対象外。クレジットをチャージすれば今すぐ叩ける 47
48. まとめ 結局、これは何モデル？ 判断モデル 48