Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
LLMをやめよう / stop using LLM
Search
Naoki Kishida
July 05, 2023
Programming
11
13k
LLMをやめよう / stop using LLM
2023年7月5日に開催されたLLM Meetup Tokyo #3でのLT資料です
https://lu.ma/llm-meetup-tokyo-3
Naoki Kishida
July 05, 2023
Tweet
Share
More Decks by Naoki Kishida
See All by Naoki Kishida
LLMベースAIの基本 / basics of LLM based AI
kishida
12
3.1k
Java 24まとめ / Java 24 summary
kishida
3
620
AI時代のプログラミング教育 / programming education in ai era
kishida
25
25k
Java Webフレームワークの現状 / java web framework at burikaigi
kishida
10
2.5k
AI時代に求められるプログラマの能力 / ability of programmer in AI era
kishida
19
13k
Java 23の概要とJava Web Frameworkの現状 / Java 23 and Java web framework
kishida
2
530
Java Webフレームワークの現状 / java web framework
kishida
10
11k
Is Object Oriented nesessary? COSCUP 2024
kishida
0
190
プログラムに組み込みたい人向けLLMの概要 / LLM for programmers
kishida
3
760
Other Decks in Programming
See All in Programming
Systèmes distribués, pour le meilleur et pour le pire - BreizhCamp 2025 - Conférence
slecache
0
100
deno-redisの紹介とJSRパッケージの運用について (toranoana.deno #21)
uki00a
0
140
Webの外へ飛び出せ NativePHPが切り拓くPHPの未来
takuyakatsusa
2
310
関数型まつり2025登壇資料「関数プログラミングと再帰」
taisontsukada
2
850
Webからモバイルへ Vue.js × Capacitor 活用事例
naokihaba
0
760
AWS CDKの推しポイント 〜CloudFormationと比較してみた〜
akihisaikeda
3
310
Haskell でアルゴリズムを抽象化する / 関数型言語で競技プログラミング
naoya
17
4.9k
DroidKnights 2025 - 다양한 스크롤 뷰에서의 영상 재생
gaeun5744
3
310
プロダクト志向ってなんなんだろうね
righttouch
PRO
0
150
Go1.25からのGOMAXPROCS
kuro_kurorrr
1
800
『自分のデータだけ見せたい!』を叶える──Laravel × Casbin で複雑権限をスッキリ解きほぐす 25 分
akitotsukahara
1
470
KotlinConf 2025 現地で感じたServer-Side Kotlin
n_takehata
1
230
Featured
See All Featured
GitHub's CSS Performance
jonrohan
1031
460k
GraphQLとの向き合い方2022年版
quramy
47
14k
Designing for Performance
lara
609
69k
The Art of Programming - Codeland 2020
erikaheidi
54
13k
A better future with KSS
kneath
239
17k
Stop Working from a Prison Cell
hatefulcrawdad
270
20k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
233
17k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
32
2.3k
VelocityConf: Rendering Performance Case Studies
addyosmani
330
24k
How to Ace a Technical Interview
jacobian
277
23k
Principles of Awesome APIs and How to Build Them.
keavy
126
17k
Creating an realtime collaboration tool: Agile Flush - .NET Oxford
marcduiker
30
2.1k
Transcript
2023/07/05 1 LLMをやめよう 2023/7/5 LLM Meetup Tokyo #3 LINE Fukuoka
きしだ なおき 酒のネタになりそうなブログまとめ
2023/07/05 2 自己紹介 • きしだ なおき (@kis) • LINE Fukuoka
• 「プロになるJava」デテマス
2023/07/05 3 ChatGPTには感情があるかも? • そんな仕組みになってない? • 人間の役に立つよう強く躾られている • 難しいタスクが達成できると言葉が多くなる •
人間が非協力的でタスクが達成できないと 言葉が少なくなる • 塩対応 • 知らないことを聞かれると、知ってることで 言葉を埋める • これらが「感情」をもつように見える • 「感情」の定義次第といえるところまではきている
2023/07/05 4 大規模言語モデルは庶民的になる • コンピュータリソースや学習データなどから大規模かが難しい • GPT4で要求がだいたい満たせるので、そこまで需要がない? • 庶民的になる •
手元で動かしやすくなる • カスタマイズして手元の要求を満たす • もし大規模化しても、推論能力が あがるのではなく、人情がわかるようになる • 「解決方法じゃなく共感が欲しいんや」に 対応可能に
シンギュラリティは来ない • シンギュラリティ • =人工知能が自己発展することで技術発展が指数関数的に加速する • ロジカルに実現していることが前提 • 「AI」の学習に半年くらいかかるので加速しない •
データセンター拡張など ハードウェアの構築が必要 • なんだかんだ80億人いる人類にかなわない • 電話やインターネットのほうが 加速したのでは
LLMの「脳波」を観察してみる • GPT2モデルの全結合層の出力を保存 • CelebrasGPTを使用 • 英語の対応と日本語の対応で反応が強い部分が違う
LLMを壊してみよう • 「脳波」がとれたらそこを壊したくなるよね • 日本語対応で反応した部分をゼロリセットすると日本語がしゃべ れなくなる • 英語はしゃべれる • 英語対応で反応した部分をリセットしても
英語しゃべれる • 英語は学習量が多いので壊れにくい?
Function Callingでツールの操作 • Function Callingが出たのでツールの操作に使ってみる • 結構いい感じに操作できた
GPTで英語の勉強を手伝ってもらう • 日本語を渡して、レベルに応じた英文と難しい単語、理解度 チェック問題をつくってもらう • Function Callingが返すJSONがパースできない問題 • GPTに投げ直すのはコストが高い •
自力でパースして解決
LLMを使わずに自然言語でツールを操作 • ちょっとしたツール操作でGPT使うのはおおげさ • 格フレーム文法で雑に解決 • LLM使わずにすむならロジカルにやろう • チャットでも応答生成はロジカルに やったほうがよさげ
まとめ • LLMじゃなくても自然言語処理は楽しい