Slide 1

Slide 1 text

iOSDC Japan 2026 大喜利で理解する LLMロクネムas@rockname a Judge 株式会社スマートバンク

Slide 2

Slide 2 text

大喜利

Slide 3

Slide 3 text

お題 ゴマすりiOSエンジニアが 先輩に言ったこととは?

Slide 4

Slide 4 text

初日から回答を募集 25 件

Slide 5

Slide 5 text

会場スコア 👏 会場

Slide 6

Slide 6 text

会場スコア 👏→💻 会場 Mac のマイク

Slide 7

Slide 7 text

会場スコア 👏→💻→ 会場 Mac のマイク 72 会場スコア

Slide 8

Slide 8 text

会場スコア 👏 拍手 = 100 会場スコア 100 READY

Slide 9

Slide 9 text

お題 ゴマすりiOSエンジニアが先輩に言ったこととは? 会場スコア Pro超えてMax! いやUltraっす!

Slide 10

Slide 10 text

お題 ゴマすりiOSエンジニアが先輩に言ったこととは? 会場スコア Pro超えてMax! いやUltraっす! 100 READY

Slide 11

Slide 11 text

お題 ゴマすりiOSエンジニアが先輩に言ったこととは? 会場スコア Pro超えてMax! いやUltraっす! 大喜利 0.1 (debug) · build 20260913 DEBUG MENU 会場スコア 回答 0–9 1 入力 delete 1 文字消す return 反映 esc 閉じる 80 100 READY

Slide 12

Slide 12 text

お題 ゴマすりiOSエンジニアが先輩に言ったこととは? 会場スコア Pro超えてMax! いやUltraっす! 80 READY

Slide 13

Slide 13 text

Demo Foundation Models で採点

Slide 14

Slide 14 text

No content

Slide 15

Slide 15 text

📝→ 🤖→💯 皆さんの回答 AI が採点 点数・講評

Slide 16

Slide 16 text

LLM as a Judge 💬→ 🤖→💯 AI の出力 AI が採点 点数・講評

Slide 17

Slide 17 text

LLM as a Judge 💬→ 🤖→💯 AI の出力 AI が採点 点数・講評 信じていいのか

Slide 18

Slide 18 text

会場のウケ vs AI の点数 回答 Pro超えてMax!いやUltraっす! 会場 80 AI 68

Slide 19

Slide 19 text

どうすれば 人の評価に近づくか

Slide 20

Slide 20 text

いまの採点基準 // 採点する let session = LanguageModelSession( model: ClaudeLanguageModel(name: "claude-opus-5", auth: .apiKey(key)), instructions: """ あなたは大喜利の審査員です。お題「\(topic)」に対する回答を0〜100点で採点し、一言講評をつけてくだ さい。 """ ) let verdict = try await session.respond(to: answer, generating: Verdict100.self) // 受け取る形 @Generable struct Verdict100 { @Guide(.range(0...100)) var score: Int var comment: String }

Slide 21

Slide 21 text

人の評価から 採点基準をつくる

Slide 22

Slide 22 text

No content

Slide 23

Slide 23 text

「面白い」とは、頭の中で何が起きているのか 1 予想する お題を聞くと、「普 通はこう答える」 が浮かぶ

Slide 24

Slide 24 text

「面白い」とは、頭の中で何が起きているのか 1 予想する お題を聞くと、「普 通はこう答える」 が浮かぶ 2 裏切られる → 回答が、その予想 と全然ちがう

Slide 25

Slide 25 text

「面白い」とは、頭の中で何が起きているのか 1 予想する お題を聞くと、「普 通はこう答える」 が浮かぶ 2 裏切られる 3 つながる → 回答が、その予想 → 「あ、そういうこ と全然ちがう とか」と、お題と 結びつく

Slide 26

Slide 26 text

「面白い」とは、頭の中で何が起きているのか 1 予想する お題を聞くと、「普 通はこう答える」 が浮かぶ 2 裏切られる 3 つながる 4 おかしい → 回答が、その予想 → 「あ、そういうこ → 光景がパッと浮か と全然ちがう とか」と、お題と 結びつく んで、それがおか しい

Slide 27

Slide 27 text

「面白い」とは、頭の中で何が起きているのか 1 予想する お題を聞くと、「普 通はこう答える」 が浮かぶ 2 裏切られる 3 つながる 4 おかしい → 回答が、その予想 → 「あ、そういうこ → 光景がパッと浮か と全然ちがう とか」と、お題と 結びつく そうきたか なるほど 面白い回答は、意外なのに、納得できる んで、それがおか しい

Slide 28

Slide 28 text

新しい採点基準 あなたは大喜利の審査員です。お題「ゴマすりiOSエンジニアが先輩に言ったこ ととは?」への回答を採点します。次の 3 つを、それぞれ理由を一文で書いて から、0〜2 で答えてください。 1. 回答は、このお題へのありがちな回答と、どれだけ違うか。 2. 回答は、お題の答えとして成り立っているか。 3. 読んだ瞬間に浮かぶ光景が、どれだけ普通と違っておかしいか。 例(今回、皆さんから集まった回答のうち、私が採点した 3 本) 「Appleからの注目度が高すぎるから、毎回リジェクトされるんですね!」 → 0・2・0(予想どおり/つながる/光景は普通) 「さすが人間型推論器ですね!」 → 2・0・0(予想外/つながらない/光景は浮かばない) 「先輩のPR、差分じゃなくて作品として見てます」 → 2・2・2(予想外/つながる/光景がおかしい) 最後に、総合点を 0〜100 でつける。 ← 予想する → 裏切られる ← つながる ← おかしい ← 人間がつけた答え

Slide 29

Slide 29 text

お題 ゴマすりiOSエンジニアが先輩に言ったこととは? 会場スコア 先輩くらいになると フォントサイズも大きいんすねぇ

Slide 30

Slide 30 text

お題 ゴマすりiOSエンジニアが先輩に言ったこととは? 会場スコア 先輩くらいになると フォントサイズも大きいんすねぇ 100 READY

Slide 31

Slide 31 text

お題 ゴマすりiOSエンジニアが先輩に言ったこととは? 会場スコア 大喜利 0.1 (debug) · build 20260913 DEBUG MENU 先輩くらいになると 90 フォントサイズも大きいんすねぇ 会場スコア 回答 0–9 2 入力 delete 1 文字消す return 反映 esc 閉じる 100 READY

Slide 32

Slide 32 text

お題 ゴマすりiOSエンジニアが先輩に言ったこととは? 会場スコア 先輩くらいになると フォントサイズも大きいんすねぇ 90 READY

Slide 33

Slide 33 text

Demo Foundation Models で採点(新しい基準)

Slide 34

Slide 34 text

No content

Slide 35

Slide 35 text

会場のウケ vs AI の点数 回答 Pro超えてMax!いやUltraっす! 先輩くらいになると フォントサイズも大きいんすねぇ 会場 80 90 AI 68 63

Slide 36

Slide 36 text

LLM as a Judge を導入するなら 1 2 3 AI は、採点基準に書いたことしか測れない 点数だけを返させない 人間がつけた答えと、突き合わせる

Slide 37

Slide 37 text

大喜利で面白い回答をするなら 1 最初に思いついた答えは、自分だけのものではない 2 3 4 自分がすぐ思いつくものは、会場の人も同じように思いつきます。だからそれは答えにしません。 ただ、捨てもしません。「みんなはこう答えるだろう」という見本として持っておくと、次に出てき た案がそこからどれくらい違うのかが分かります。 何を変えるかより先に、何を変えないかを決める 思いついたものと違うことを言うだけなら簡単です。ただ、違うことを言った時点で、お題の答え になっていないことがよくあります。お題が聞いていることにだけは最後まで答える、と先に決め ておけば、あとは何をどう変えても答えのままでいられます。 一言足したくなったら、それはもう伝わっていない 自分でつなげたものは、自分には必ずつながって見えます。だから、伝わっているかどうかを本人 が確かめることはできません。あてになるのは、言い足したくなるかどうかだけです。 筋が通っただけの答えは、感心されて終わる きれいに筋が通ると、人は「うまい」と言います。うまいと面白いは別です。同じくらい筋の通る 答えが何通りか出てきたら、言ったときに思い浮かぶ様子が、一番ばかばかしいものを選びます。

Slide 38

Slide 38 text

ロクネム @rockname 株式会社スマートバンク Software Engineer / Engineering Manager