Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ChatGPTがエンジニアに与える影響2 / how ChatGPT affect for e...
Search
Naoki Kishida
April 22, 2023
Programming
0
620
ChatGPTがエンジニアに与える影響2 / how ChatGPT affect for engineers2
4/22のプレゼンテーションの資料です
Naoki Kishida
April 22, 2023
Tweet
Share
More Decks by Naoki Kishida
See All by Naoki Kishida
Java Webフレームワークの現状 / java web framework at burikaigi
kishida
9
2.2k
AI時代に求められるプログラマの能力 / ability of programmer in AI era
kishida
17
11k
Java 23の概要とJava Web Frameworkの現状 / Java 23 and Java web framework
kishida
2
470
Java Webフレームワークの現状 / java web framework
kishida
10
10k
Is Object Oriented nesessary? COSCUP 2024
kishida
0
170
プログラムに組み込みたい人向けLLMの概要 / LLM for programmers
kishida
3
580
Javaの現状2024夏 / Java current status 2024 summer
kishida
6
2k
Java 22 Overview
kishida
1
360
Is Object-Oriented nessesary?
kishida
0
130
Other Decks in Programming
See All in Programming
バッチを作らなきゃとなったときに考えること
irof
0
390
Rails アプリ地図考 Flush Cut
makicamel
1
120
Ruby on cygwin 2025-02
fd0
0
150
1年目の私に伝えたい!テストコードを怖がらなくなるためのヒント/Tips for not being afraid of test code
push_gawa
1
350
Spring gRPC について / About Spring gRPC
mackey0225
0
230
新宿駅構内を三人称視点で探索してみる
satoshi7190
2
110
JavaScriptツール群「UnJS」を5分で一気に駆け巡る!
k1tikurisu
9
1.8k
Serverless Rust: Your Low-Risk Entry Point to Rust in Production (and the benefits are huge)
lmammino
1
140
Grafana Loki によるサーバログのコスト削減
mot_techtalk
1
130
CSS Linter による Baseline サポートの仕組み
ryo_manba
1
130
データベースのオペレーターであるCloudNativePGがStatefulSetを使わない理由に迫る
nnaka2992
0
200
Rubyで始める関数型ドメインモデリング
shogo_tksk
0
120
Featured
See All Featured
Helping Users Find Their Own Way: Creating Modern Search Experiences
danielanewman
29
2.4k
The Illustrated Children's Guide to Kubernetes
chrisshort
48
49k
Faster Mobile Websites
deanohume
306
31k
Learning to Love Humans: Emotional Interface Design
aarron
273
40k
Making the Leap to Tech Lead
cromwellryan
133
9.1k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
33
2.1k
How To Stay Up To Date on Web Technology
chriscoyier
790
250k
Building Your Own Lightsaber
phodgson
104
6.2k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
44
7k
The Pragmatic Product Professional
lauravandoore
32
6.4k
Understanding Cognitive Biases in Performance Measurement
bluesmoon
27
1.6k
Code Review Best Practice
trishagee
67
18k
Transcript
04/22/2023 1 ChatGPTが エンジニアに与える影響 LINE Fukuoka きしだ なおき 2023/4/22 ITエンジニアのためのライトニングトーク
04/22/2023 2 ChatGPTとは • OpenAIが開発したチャットAI • GPT4、GPT3.5ベース • 2021年9月までのほぼすべてのWebテキストで学習 •
GPT4はかなり性能が高い • 入力の続きの単語を生成 • 繰り返すことで返答の文章を生成する ※ generated by Stable Diffusion
GPT • GPT = Generative Pre-trained Transformer • Transformerが大切 •
Transformer • アテンションに基づくエンコーダー&デコー ダー • 「アテンション」は文章のどこに注目するかを 決める仕組み
Java song!
微調整(Fine Tune)
ツールの使い方
コード生成
Webアクセスするコード
Javaに変換
コードの修正
コードの実行
実際の実行結果
OpenAI API • ChatGPTの機能をプログラムから利用可能 • Chat API • テキストに対してテキストを返す •
Embedding API • テキストの特徴をあらわす1500次元のベクトルを得る
例 1. ブログのエントリをEmbeddingでベクトルをとって保存 2. 質問からベクトルを得て近いベクトルのエントリを検索 3. 得られたエントリから質問の回答を生成
ChatGPTを信じてはいけない • 「もっともありそうな続き」を生成しているだけ • それでコードが生成できていることは驚きだけど、論理的に考えている わけではない • ChatGPTはそれが正しいかどうか気にしていない • 流れるようにウソをつく
もっと賢くなるんでは? • 学習データの限界 • いまのAIは学習データの量で性能の上限がきまる • ほぼすべてのWebテキストを使っているので、これ以上の学習データ がない • 計算機の限界
• GPT4を学習させた計算機クラスタより大きいものを作るのは困難 • いまでも運用に1億円/日かかっている • ウソが混ざりがちという性質は変わらない
まとめ • アイデアを得るのに強力なツールになる • とりかかりになるコードの生成に強い • GitHubのCode Copilotを使うと定型コードに時間をとられなくな る •
VS CodeにGPTを組み込む • 2つの条件が組み合わさると難しくなる • 実際のコードは複数の条件を満たすので人間が書く必要がある • セキュリティなどコンテキストをもった正しいコードは人間が注 意して確認する必要がある