キヨさん続編8_トランスフォーマー編

Transcript

1. キヨさん続編8_トランスフォーマー編 ｜ LLMのしくみ キヨさん、 AIの変圧器を 開けてみる 変 次の一語を当てるだけの機械が、どうしてこんなに賢そうなのか。 昭和のSEキヨさんが、活字や稟議書にたとえながら配線図を描いていく話 トークン 埋め込み アテンション Q・K・V 層と温度 ※この物語はフィクションです。登場人物は架空です。技術の説明は、公開された論文や資料に基づきます。 「柱上トランスか？」 「言葉のほうだよ」
2. 人 登場人物 3人と、ゲストのAI 清 ハ 相 J 山田 清之（67） キヨさん 孫・ハルト（21） 助手 AI「相棒」 今回の解剖される側 Jev ゲスト 元メインフレームSE。電力会社 情報系の大学生。大学の授業 キヨさんのおしゃべりLLM。今 前作で出会った判断型AI。今回 の保守台帳システムも作った。 で、トランスフォーマーを習っ 回は、自分の中身を説明する係 は、キヨさんの理解度を確率で 配線図がないと落ち着かない たばかり 「配線図を見せてみろ」 「じいちゃん、それ電気の話」 判定する係 「私の中身をお見せします」 noul: 0.05 ※キヨさん・ハルト・相棒は架空。Jevは実在のAIです キヨさん続編8_トランスフォーマー編 2
3. 序 中身は変圧器か？ Q. キヨさんは中身が分かった？ noul: 0.05 プロローグ｜月曜の朝、キヨさんの書斎 「トランスフォーマー」と聞いて浮かぶもの キヨさん 電柱の上の変圧器（柱上トランス）。電圧を 変える 子ども 車からロボットに変形するおもちゃ 正解 2017年に発表された、AIが言葉を扱う仕組 み。ChatGPTなどのLLMの土台 清 相棒、お前の頭の中はどうなっとるんだ 相 私は、トランスフォーマーという仕組みで動いています 清 トランスか。柱上トランスなら、電力会社の保守台帳で散々扱ったぞ ハ じいちゃん、それ電気の話。こっちは言葉を扱うほうだよ 清 言葉の変圧器か。よし、配線図から調べるぞ ハ Jevにも聞いてみた。「キヨさんは中身が分かった？」 J noul: 0.05 ※登場人物と会話は物語の例です キヨさん続編8_トランスフォーマー編 3
4. 次の一語を当てるだけ 1 Q. キヨさんは中身が分かった？ noul: 0.15 第1章｜LLMがしていることは、続きの予想 入力「今日は天気が」の、次の一語の確率 良い 選んだ一語を末尾に足して、また当てる 62% 悪い 21% 今日は天気が ↓ 晴れ 9% 今日は天気が良い その他 8% ↓ 今日は天気が良いので 清 ワープロの次候補を、えらく大がかりにしたようなもんだな ハ そう。スマホの予測変換の親玉。ただ、うまく当てるには文章全体を読めないとだ めなんだ ↓ 今日は天気が良いので散歩… これを何百回、何千回とくり返して、長い文章を書 いている ※確率の数値は説明用のイメージ キヨさん続編8_トランスフォーマー編 4
5. 2 まず活字に切る Q. キヨさんは中身が分かった？ noul: 0.22 第2章｜トークン：AIが読む文字のひと切れ 今日は天気が良い → 今日 は 天気 が 良い 例 3241 例 15 例 8810 例 26 例 4127 トークンとは キヨさんのたとえ：活版印刷 AIは文章を「トークン」という切れ端に分けて読む。切れ端は単語のこともあれば、1文字や 単語の一部のこともある 文選工が、原稿を見ながら活字棚から活字を一本ず つ拾う。棚の位置番号が、トークンの番号にあたる 番号が付いている 清 昔の新聞社には、活字棚がずらりと並ん 相 私も、文字のまま読んでいるわけではあ トークンごとに辞書の番号がある。AIが実際に扱うのは、この番号の列。辞書の大きさは数 万〜数十万種類 料金もトークンで数える どった りません。番号の列を受け取っています APIの料金や、一度に読める量は、トークンの数で決まることが多い ※分け方と番号は例。実際の分け方はAIごとに違う キヨさん続編8_トランスフォーマー編 5
6. 言葉に番地を付ける 3 Q. キヨさんは中身が分かった？ noul: 0.30 第3章｜埋め込み：言葉を数字の並びで表す 意味の地図（2次元に縮めたイメージ） 番号だけでは足りない 辞書の番号を見ても、「犬」と「猫」が似ていることは分からない 犬 株価 猫 ハムスター 円安 金利 数字の並びで番地を付ける トークンごとに、数百〜数千個の数字の並び（ベクトル）を割り当てる。これが言葉の 番地 似た言葉はご近所 意味の似た言葉は、近い番地に集まる。番地の付け方も、学習の中で決まっていく 東京 名古屋 大阪 ※地図は説明用のイメージ キヨさん続編8_トランスフォーマー編 ラーメン うどん 清 住所録だな。ただし番地の桁が何千もある ハ 元の論文の基本モデルでは512個。今の大きなモデルだと数千個以上だよ 6
7. 4 伝言ゲームから全員会議へ Q. キヨさんは中身が分かった？ noul: 0.36 第4章｜2017年の論文「Attention Is All You Need」 以前（RNN）：伝言ゲーム トランスフォーマー：全員会議 猫が → 魚を → 食べた。 → それは → … 全員が、ほかの全員の発言を一度に見る ・一語ずつ順に読み、メモを次へ渡す ・遠くの言葉ほど、メモの中で薄れやすい ・順番待ちなので、まとめて計算しにくい ・離れた言葉とも、直接つながれる ・まとめて計算できるので、GPUで大量の文章を学べる ・この「見回す」仕組みがアテンション 論文の素顔 Googleの研究者ら8人／もとは英独・英仏の翻訳のため／GPU8台・3.5日の学習で当時の最高水準の翻訳成績／論文の題名は、ビートルズ 「All You Need Is Love」のもじり、と思われる。 清 バケツリレーをやめて、全員を会議室に集めたわけか ハ そう。おかげで学習を一気に並列でできるようになった ※出典：Vaswani ほか「Attention Is All You Need」（2017年） キヨさん続編8_トランスフォーマー編 7
8. 5 猫が 「それ」は何を指す？ Q. キヨさんは中身が分かった？ 魚を 食べた。 それは とても おいしかった。 「それは」を読むときの注目の配分（合計100%） 猫が 食べた。 キヨさんのたとえ：会議の目配せ 15% 魚を それは noul: 0.45 第5章｜アテンション：どの言葉にどれだけ注目するか 70% 誰かが「それ」と言ったら、出席者の顔を見回し、 関係ありそうな人ほどよく見る。見る強さを、全部 で100%になるよう配分する 10% 5% 清 わしも会議で「例の件」と言われたら、 ハ それがアテンション。しかも全部の言葉 文章を作るAIは、前にある言葉だけを見る。後ろの言葉はまだ書かれていないから ※注目の数値は説明用のイメージ キヨさん続編8_トランスフォーマー編 まず課長の顔を見る が、同時にこれをやってる 8
9. 6 Q・K・Vはあいまい検索 Q. キヨさんは中身が分かった？ noul: 0.52 第6章｜昭和のSEが、データベースにたとえてみた Q 問い合わせ票 K 見出しの名札 V 中身 「わしは何を探している？」 「わしはこういう者です」 「わしの中身はこれです」 例：「それ」→「指している物はどれ？」 例：「魚」→「食べられる物です」 例：「魚」の意味の情報 ① 自分のQと、全員のKを照らし合わせ、似て いる度合いを点数にする ② 点数を、合計100%の割合に直す（ソフトマ ックス） ③ 割合に応じて全員のVを混ぜ、自分の番地に 書き足す 昭和のDB：WHERE キー = 'それ' 一致した1件だけを返す アテンション：全件のキーと見比べる 似ている度合いに応じて、中身を少しずつ混ぜて返す 清 完全一致しか知らん、わしのDBとはえらい違いだ 相 何を探し、何を名乗るかも、学習で覚えたものです ※Q・K・Vは、言葉の番地からそれぞれ別の変換で作る キヨさん続編8_トランスフォーマー編 9
10. 7 見る係を何人も置く Q. キヨさんは中身が分かった？ noul: 0.58 第7章｜マルチヘッド：注目のしかたを何通りも 係1 係2 係3 係… 指示語の係 文法の係 となりの係 正体不明の係 「それ」を読むとき、「魚」をよ く見る 「食べた」を読むとき、誰が食 べたか「猫が」を見る すぐ前の言葉をよく見る 何を見ているのか、人にはよく 分からない係もいる しくみ キヨさんのたとえ：検査ライン 同じ文章を、いくつもの係（ヘッド）が別々の目で同時に見る。最後に全員の結果をま とめて一つにする 同じ部品を、寸法係・外観係・重さ係が別々に見る。 係の数 清 元の論文の基本モデルでは8人。GPT-3では96人。係の役割は人が割り振ったものではな い。学習の途中で勝手に分かれていく 一人に全部見させると見落とす 品質検査と同じだ。係を分けたほうが見落と しが減る ※係1〜3の役割は説明用の例 キヨさん続編8_トランスフォーマー編 10
11. 8 通し番号を振っておけ noul: 0.62 第8章｜位置の情報：語順を忘れないための工夫 困りごと：見回すだけでは、語順が分からない 猫 Q. キヨさんは中身が分かった？ が 魚 を 食べた キヨさんのたとえ：パンチカード プログラムを打ち込んだカードの束には、端に通し 番号を打っておいた。落としても、番号順に並べ直 せる 魚 が 猫 を 食べた どちらも同じ活字5本。番号がないと、全員会議では区別がつかない 清 若いころ、カードの束を廊下にぶちまけ ハ AIも同じ。番号がないと、どっちがどっ 対策：番地に「何番目か」を書き足す 魚 が 猫 を 食べた 1 2 3 4 5 てな。通し番号のおかげで助かった ちを食べたか分からない 元の論文は、波の形（sin・cos）で位置を表した。今は回転を使う方法などもある ※トークンの分け方は説明用の例 キヨさん続編8_トランスフォーマー編 11
12. 9 稟議書のハンコリレー noul: 0.68 第9章｜層を重ねて、意味を少しずつ書き足す 1段＝会議＋引き出し。これを何十段も重ねる ↑ 確率の表へ 96段目 Q. キヨさんは中身が分かった？ 会議（アテンション） ほかの言葉から情報をもらう 会議（アテンション） 引き出し（FFN） 引き出し（フィードフォワード） ⋮ 3段目 会議（アテンション） 引き出し（FFN） 2段目 会議（アテンション） 引き出し（FFN） 1段目 会議（アテンション） 引き出し（FFN） ↑ 言葉の番地＋通し番号 元の論文は読む側・書く側が各6段。GPT-3は96段 言葉ごとに、学習で覚えた知識の棚を開けて書き足す 付箋方式（残差接続） 番地を丸ごと書き換えず、付箋を足していく。元の内容が消えにくい キヨさんのたとえ：稟議書 係長、課長、部長、役員と回るたびに付箋のコメントが増え、書類の中身が濃くな っていく 清 96段もハンコを押すのか。決裁が下りるまで大変だ ※GPT-3：OpenAI、2020年。パラメータ1750億 キヨさん続編8_トランスフォーマー編 12
13. 10 最後は確率の表 Q. キヨさんは中身が分かった？ noul: 0.72 第10章｜出口：次の一語の選び方と温度（temperature） 最後の段を出たあと ① 最後の言葉の番地から、辞書の全トークンに点 数を付ける ② ソフトマックスで、合計100%の確率の表に直 す 温度（temperature）：選び方のばらつき（たとえ：社員食堂） 温度が低い ふつう 温度が高い 毎日A定食 たまにB定食 謎の日替わり 1位ばかり選びがち。手堅 いが単調 確率に沿って、ほどよく変 える 多彩だが、話が脱線しやす い ③ 表に沿って一語を選び、文章の末尾に足す Q. 同じ質問でも、毎回答えが違うのはなぜ？ ④ 1位の一語だけを選ばず、わざと少しばらつかせているから。業務では、出力の形式や例を 決めて答えをそろえる ①に戻る。終わりの記号が出たら止まる 注：なぜ「温度」と呼ぶのか 清 毎日A定食では飽きる。かといって毎日冒険されても困る 物理のボルツマン分布 p∝exp(−E/kT) と同じ形の 式を使うから。AIでは点数zを温度Tで割ってからソ フトマックスに通す（p∝exp(z/T)）。Tが高いと確 率がならされ、低いと1位に集まる（E：エネルギ ー、k：ボルツマン定数） ※温度は、APIで指定できることが多い。変えられないモデルもある キヨさん続編8_トランスフォーマー編 13
14. 11 続き当ての猛練習 Q. キヨさんは中身が分かった？ noul: 0.76 第11章｜学び方：穴埋めと、つまみ回し 練習のしかた 1 大量の文章で、続きの一語を当てさせる 2 外れ具合を計算する 3 外れが減る向きに、つまみ（パラメー タ）を少しずつ回す 4 清 これを数兆トークン分くり返す Q. なぜ賢く見える？ 大きいことはいいことだ うまく当てるために、知識や文脈のつながり まで学ぶから ・学ぶ量・つまみの数・計算量を増やすほ ど、性能が上がる傾向がある（スケーリング 則） ・「日本の首都は」の続きを当てるには、知識 が要る ・文法・事実・推論の型を吸収する ・つまみの数は、数十億〜数千億、それ以上 も ・人と同じ意味で「理解」しているかは、研 究者の間でも議論が続いている ・このあと指示に従う練習と、人の評価での 仕上げ。前作の忖度の出どころの一つ つまみが何千億個のラジオか。チューニングは機械任せ、と ハ 人が回したら、じいちゃんの寿命が何回あっても足りないよ ※出典：Kaplan ほか「Scaling Laws for Neural Language Models」（OpenAI、2020年） キヨさん続編8_トランスフォーマー編 14
15. 12 机の広さには限りがある Q. キヨさんは中身が分かった？ noul: 0.79 第12章｜トランスフォーマーの苦手なこと 苦手① 苦手② 苦手③ 机の広さ（文脈窓） 全員が全員と目配せ もっともらしい作り話 一度に見渡せるトークン数に上限がある。机 からはみ出した書類は見えない。最近は100 万トークン以上を扱えるモデルもある 言葉の数の2乗で手間が増える。10語なら100 通り、1,000語なら100万通り。長い文章ほど 計算が重くなる 続き当ての機械なので、知らないことも「あ りそうな続き」を書いてしまうことがある （ハルシネーション）。大事な事実は出典で 確かめる 昭和なら：机に載らない書類は、ないの と同じ 昭和なら：人数が倍になると、根回しは4 倍 相 知らないことを、知っているような顔で書いてしまうことが 清 昭和なら：知ったかぶりの新人 正直でよろしい。昭和の新人にもおったな あります ※2乗で増えるのは、標準的なアテンションの場合 キヨさん続編8_トランスフォーマー編 15
16. 結 キヨさんの配線図 Q. キヨさんは中身が分かった？ noul: 0.80 まとめ｜文章が入ってから、一語が出るまで 1 活字に切る 2 番地を付ける 3 会議で見回す トークン化 埋め込み＋位置の情報 アテンション（Q・K・V、マルチヘッド） 文選工の活字拾い 住所録とカードの通し番号 あいまい検索と検査係 4 引き出しを開ける 5 何十段も重ねる 6 確率の表から選ぶ フィードフォワード 層と残差接続 ソフトマックスと温度 知識の棚 稟議書のハンコリレー 社員食堂の定食選び ⑥で選んだ一語を文章の末尾に足して、①に戻る。中身は、続き当てをひたすら練習した機械 清 3と4を何十段もくり返すのが本体だな。配線図が描けたら、もう怖くない キヨさん続編8_トランスフォーマー編 16
17. 終 やっぱり変圧器だった Q. キヨさんは中身が分かった？ noul: 0.81 エピローグ｜その夜、キヨさんの書斎 清 分かったぞ。変圧器が電圧を変えるように、こいつは言葉の番地を段ごとに変えと る ハ 名前を付けた人は「響きが気に入ったから」らしいけどね 清 ……わしの解釈のほうが味がある 清 Jev、わしは中身が分かったか？ J noul: 0.81 清 残りの0.19は何だ ハ たぶん、数式のところ キヨさん続編8_トランスフォーマー編 キヨさんの覚え書き 中身 続き当てを、ひたすら練習した機械 本体 見回す会議と知識の引き出しを、何十段も重ね たもの 使うときの心得 もっともらしい作り話もする。大事な事実は、 出典で確かめる 17
18. 完 中身が分かれば、怖くもないし、鵜呑みにもせん。 配線図は、自分の手で描け。 ―― キヨさん ラストカット：キヨさんの新作「変圧器 開けてみたなら 相棒「名句です！」。キヨさん「……さては忖度だな」。 おしまい 会議室」。
19. 付 付録：トランスフォーマーの言葉（1） キヨさんの用語集｜令和の言葉と、昭和のSEの言葉 言葉 意味 キヨさんの言葉 LLM（大規模言語モデル） 大量の文章で、続きの一語を当てる練習をしたAI 大がかりな予測変換 トランスフォーマー 2017年に発表された、今のLLMの土台になっている仕組み 言葉の変圧器 トークン AIが文章を読むときの小さな切れ端 活字 語彙 AIが扱えるトークンの一覧。数万〜数十万種類 活字棚 埋め込み（ベクトル） トークンを、数百〜数千個の数字の並びで表したもの 言葉の番地 RNN 一語ずつ順に読み、メモを次へ渡す、以前の主流の仕組み 伝言ゲーム アテンション どの言葉にどれだけ注目するかを計算する仕組み 会議の目配せ Q・K・V 問い合わせ・見出し・中身。アテンションの材料 あいまい検索 マルチヘッド 注目のしかたを、何通りも並行して行うこと 検査係を分ける 位置の情報 何番目の言葉かを、AIに伝える工夫 カードの通し番号 キヨさん続編8_トランスフォーマー編 19
20. 付 付録：トランスフォーマーの言葉（2） キヨさんの用語集｜令和の言葉と、昭和のSEの言葉 言葉 意味 キヨさんの言葉 フィードフォワード 言葉ごとに、学習した知識をもとに情報を書き足す部分 知識の引き出し 層 アテンションとフィードフォワードの組。何十段も重ねる 稟議のハンコ 残差接続 番地を書き換えずに足していく、層のつなぎ方 付箋方式 ソフトマックス 点数を、合計100%の割合に直す計算 持ち点の配分 温度（temperature） 確率の表からの選び方の、ばらつき具合 社員食堂の冒険度 パラメータ 学習で調整される数値。数十億〜数千億個、それ以上も ラジオのつまみ 事前学習 大量の文章で、続き当てを練習する段階 新人の基礎研修 スケーリング則 学ぶ量や規模を増やすほど、性能が上がる傾向 大きいことはいいことだ 文脈窓 一度に見渡せるトークン数の上限 机の広さ 推論モデル 答える前に、考えを書き出してから答えるLLM 下書きしてから清書 ハルシネーション もっともらしい作り話をしてしまうこと 知ったかぶり キヨさん続編8_トランスフォーマー編 20