ChatGPTがエンジニアに与える影響 / what is ChatGPT impact for engineers

02/10/2023 1 ChatGPTがエンジニアに与える影響 LINE Fukuoka きしだなおき 2023/2/10 ITエンジニアのためのライトニングトーク

02/10/2023 2 ChatGPTとは • OpenAIが開発したチャットAI • GPT3.5ベース • ファインチューンされたGPT3 •
2021年９月までのほぼすべてのWebテキストで学習 • 入力の続きの単語を生成 • 繰り返すことで返答の文章を生成する ※ generated by Stable Diffusion

GPT • GPT = Generative Pre-trained Transformer • Transformerが大切 •
Transformer • アテンションに基づくエンコーダー&デコーダー • 「アテンション」は文章のどこに注目するかを決める仕組み

Java song!

微調整(Fine Tune)

ツールの使い方

コード生成

Webアクセスするコード

Javaに変換

コードの修正

コードの実行

実際の実行結果

ChatGPTを信じてはいけない • 「もっともありそうな続き」を生成しているだけ • それでコードが生成できていることは驚きだけど、論理的に考えているわけではない • ChatGPTはそれが正しいかどうか気にしていない • 流れるようにウソをつく

もっと賢くなるんでは？ • 学習データの限界 • いまのAIは学習データの量で性能の上限がきまる • ほぼすべてのWebテキストを使っているので、これ以上の学習データがない • ウソが混ざりがちという性質は変わらない
• ネットの情報の性質にひきずられる • 情報が更新されない • 新しいものが出るときはネットに記事があふれる • 更新されてもそれほどたくさんは取り上げられない • 入門記事は多くても条件が加わると情報が少なくなる

まとめ • アイデアを得るのに強力なツールになる • とりかかりになるコードの生成に強い • GitHubのCode Copilotを使うと定型コードに時間をとられなくなる •
VS CodeにGPTを組み込む • ２つの条件が組み合わさると難しくなる • 実際のコードは複数の条件を満たすので人間が書く必要がある • セキュリティなどコンテキストをもった正しいコードは人間が注意して確認する必要がある

ChatGPTがエンジニアに与える影響 / what is ChatGPT impact fo...

ChatGPTがエンジニアに与える影響 / what is ChatGPT impact for engineers

Naoki Kishida

More Decks by Naoki Kishida

Other Decks in Programming

Featured

Transcript