ChatGPTがエンジニアに与える影響 / what is ChatGPT impact for engineers

2023年2月10日のライトニングトークでの資料です

Transcript

1. 02/10/2023 1 ChatGPTが エンジニアに与える影響 LINE Fukuoka きしだ なおき 2023/2/10 ITエンジニアのためのライトニングトーク
2. 02/10/2023 2 ChatGPTとは • OpenAIが開発したチャットAI • GPT3.5ベース • ファインチューンされたGPT3 • 2021年９月までのほぼすべてのWebテキストで学習 • 入力の続きの単語を生成 • 繰り返すことで返答の文章を生成する ※ generated by Stable Diffusion
3. GPT • GPT = Generative Pre-trained Transformer • Transformerが大切 • Transformer • アテンションに基づくエンコーダー&デコー ダー • 「アテンション」は文章のどこに注目するかを 決める仕組み
4. Java song!
5. 微調整(Fine Tune)
6. ツールの使い方
7. コード生成
8. Webアクセスするコード
9. Javaに変換
10. コードの修正
11. コードの実行
12. 実際の実行結果
13. ChatGPTを信じてはいけない • 「もっともありそうな続き」を生成しているだけ • それでコードが生成できていることは驚きだけど、論理的に考えている わけではない • ChatGPTはそれが正しいかどうか気にしていない • 流れるようにウソをつく
14. もっと賢くなるんでは？ • 学習データの限界 • いまのAIは学習データの量で性能の上限がきまる • ほぼすべてのWebテキストを使っているので、これ以上の学習データ がない • ウソが混ざりがちという性質は変わらない • ネットの情報の性質にひきずられる • 情報が更新されない • 新しいものが出るときはネットに記事があふれる • 更新されてもそれほどたくさんは取り上げられない • 入門記事は多くても条件が加わると情報が少なくなる
15. まとめ • アイデアを得るのに強力なツールになる • とりかかりになるコードの生成に強い • GitHubのCode Copilotを使うと定型コードに時間をとられなくな る • VS CodeにGPTを組み込む • ２つの条件が組み合わさると難しくなる • 実際のコードは複数の条件を満たすので人間が書く必要がある • セキュリティなどコンテキストをもった正しいコードは人間が注 意して確認する必要がある