Upgrade to Pro — share decks privately, control downloads, hide ads and more …

ChatGPTがエンジニアに与える影響 / what is ChatGPT impact for engineers

ChatGPTがエンジニアに与える影響 / what is ChatGPT impact for engineers

2023年2月10日のライトニングトークでの資料です

Naoki Kishida

February 10, 2023
Tweet

More Decks by Naoki Kishida

Other Decks in Programming

Transcript

  1. 02/10/2023 1
    ChatGPTが
    エンジニアに与える影響
    LINE Fukuoka きしだ なおき
    2023/2/10 ITエンジニアのためのライトニングトーク

    View full-size slide

  2. 02/10/2023 2
    ChatGPTとは

    OpenAIが開発したチャットAI

    GPT3.5ベース

    ファインチューンされたGPT3

    2021年9月までのほぼすべてのWebテキストで学習

    入力の続きの単語を生成

    繰り返すことで返答の文章を生成する
    ※ generated by Stable Diffusion

    View full-size slide

  3. GPT

    GPT = Generative Pre-trained Transformer

    Transformerが大切

    Transformer

    アテンションに基づくエンコーダー&デコー
    ダー

    「アテンション」は文章のどこに注目するかを
    決める仕組み

    View full-size slide

  4. 微調整(Fine Tune)

    View full-size slide

  5. ツールの使い方

    View full-size slide

  6. コード生成

    View full-size slide

  7. Webアクセスするコード

    View full-size slide

  8. Javaに変換

    View full-size slide

  9. コードの修正

    View full-size slide

  10. コードの実行

    View full-size slide

  11. 実際の実行結果

    View full-size slide

  12. ChatGPTを信じてはいけない

    「もっともありそうな続き」を生成しているだけ

    それでコードが生成できていることは驚きだけど、論理的に考えている
    わけではない

    ChatGPTはそれが正しいかどうか気にしていない

    流れるようにウソをつく

    View full-size slide

  13. もっと賢くなるんでは?

    学習データの限界

    いまのAIは学習データの量で性能の上限がきまる

    ほぼすべてのWebテキストを使っているので、これ以上の学習データ
    がない

    ウソが混ざりがちという性質は変わらない

    ネットの情報の性質にひきずられる

    情報が更新されない

    新しいものが出るときはネットに記事があふれる

    更新されてもそれほどたくさんは取り上げられない

    入門記事は多くても条件が加わると情報が少なくなる

    View full-size slide

  14. まとめ

    アイデアを得るのに強力なツールになる

    とりかかりになるコードの生成に強い

    GitHubのCode Copilotを使うと定型コードに時間をとられなくな


    VS CodeにGPTを組み込む

    2つの条件が組み合わさると難しくなる

    実際のコードは複数の条件を満たすので人間が書く必要がある

    セキュリティなどコンテキストをもった正しいコードは人間が注
    意して確認する必要がある

    View full-size slide