社内AI勉強会 ChatGPT入門 ~生成AIの基本とその活用法~

2023年9月5日に社内で実施した AI社内勉強会で使用した資料です。

Transcript

1. ChatGPT⼊⾨ ⽣成AIの基本とその活⽤法 2023/9/5 tenso AI トランスフォーメーション Div.（AIX） 釜坂 聖 9/1に新設されました 🎉
2. ⾃⼰紹介 釜坂 聖 （かまちゃん） tenso株式会社 AIトランスフォーメーション Div. （AIX）所属 ビジネス/エンジニア 略歴 2019年にエンジニア職でBEENOSに新卒⼊社。 tensoにてBuyeeの開発に携わった後、BeeCruiseとBEENOSテク推に て新規事業のシステム開発やプロジェクトマネジメントを担当。 今年4⽉からビジネス職に転向し新規事業やAIに関する調査などを担当。 今年9⽉から新しく発⾜したtensoのAIXに異動。 AIを利⽤した業務改善やシステムの企画・開発、活⽤推進などを担当 。 趣味 プログラミング、コーヒー、ポーカー、海外旅⾏、VIVANT
3. ⽬次 • はじめに • ChatGPT（LLM）の仕組みについて • ChatGPTの活⽤法 • ChatGPTの利⽤上の注意 • ChatGPTを活⽤したサービスの紹介 • デモ • 質疑応答
4. ⽬次 • はじめに • ChatGPT（LLM）の仕組みについて • ChatGPTの活⽤法 • ChatGPTの利⽤上の注意 • ChatGPTを活⽤したサービスの紹介 • デモ • 質疑応答
5. ⽬的 ChatGPTを含むAIについての理解を深めてもらい、 業務で活⽤するきっかけを作ること
6. DOWN ChatGPTを知っている⼈✋ 質問
7. • パナソニックが社内版ChatGPTを全社員へ拡⼤、国内約9万⼈が本格利⽤開始 • 社内AIチャット「Benesse GPT」をグループ社員1.5万⼈に向けに提供開始 • 「チキンラーメン」のキャラクターが注意喚起、⽇清⾷品HDが「NISSIN- GPT」を社員向けに公開 • 伊藤忠商事が「社内版ChatGPT｣を4200⼈に導⼊開始 最近のニュース
8. DOWN ChatGPTを使ったことがある⼈✋ 質問
9. ChatGPTの利⽤に関する調査 • ビジネスにおけるChatGPTの利⽤率は⽇本では7% （⽶国51%） • 認知率は54% （⽶国92%） 引⽤︓ＭＭ総研が⽇本および⽶国の企業・団体に所属する従業員13,814⼈に対して2023年5⽉24⽇〜5⽉31⽇に⾏なったアンケート調査 https://www.m2ri.jp/release/detail.html?id=580
10. DOWN AIと聞いて何を思い浮かべますか︖ 質問
11. AIと聞いて何を思い浮かべますか︖ ドラえもん ターミネーター Siri Google Assistant HAL 9000 Alexa Ponanza 顔認識 ⾃動運転 Cortana ChatGPT Stable Diffusion 株⾃動売買
12. AIと聞いて何を思い浮かべますか︖ ドラえもん ターミネーター Siri Google Assistant HAL 9000 Alexa Ponanza 顔認識 ⾃動運転 Cortana 汎⽤型AI ⾳声アシスタントAI 特化型AI ChatGPT ⽣成AI Stable Diffusion ※この分類は説明する便宜上の分類であり必ずしも正しいとは限りませ 株⾃動売買
13. 汎⽤AI (AGI: Artificial General Intelligence) 例 できること • ドラえもん • ターミネーター • HAL 9000 • ⼈間が実現可能なあらゆる知的作業を理解・学習・実⾏することができる （Wikipedia） • 特定の課題にのみ対応するのではなく、⼈間と同じようにさまざまな課題を処理可能 （Ledge.ai） ⼈間が実現可能なあらゆる知的作業を理解・学習・実⾏することができるAI ※DreamStudioで⽣成
14. 特化型AI (ANI: Artificial Narrow Intelligence) 例 できること • コンビニの仕⼊れの最適化 • カメラの顔認識 • ⽣産ラインでの不良品検知 • スパムメールのフィルタリング • ⾳声⾃動書き起こし • ⾃動運転 • 数値予測 • 画像認識 • ⾳声認識 • データ分類 システムやアプリに組み込まれ、特定のデータを学習して特定のタスクを⾏うことができ るAI
15. ⾳声アシスタントAI (Voice Assistant AI) 例 できること • Google Assistant • Cortana • Siri • Clova • Alexa • アラームをセットする • 電気をつける • 天気を聞く • ジョークを⾔ってもらう スマートフォンやスマートスピーカーに搭載され⾳声で様々な操作をしてくれるAI
16. 膨⼤な量のテキストや画像データからパターンを学習し、そのパターン を基に新しいテキストや画像などを⽣成できるAI ⽣成AI (Generative AI) 例 できること • ChatGPT • Stable Difusion • Bing AI • テキスト⽣成 • 画像⽣成
17. 今までのAIと⽣成AIは何が違うの︖ 今までのAI（⾳声アシスタントAI・特化型AI） • 〇〇時に起こして → アラームをセット • 天気を教えて → 天気を回答 • ジョークを⾔って → 登録されたジョークの中からランダムで回答 • ⽬と⿐と⼝がある → 顔と認識してオートフォーカス 事前に設定されたルールに基づいて、すでにある情報を回答したり機能を呼び出 している ※2023年9⽉現在の情報を基に作成しています。 今後、⾳声アシスタントAIにも⽣成AI技術がより活⽤されていることが予想されています。
18. 今までのAIと⽣成AIは何が違うの︖ ⽣成AI（ChatGPT・Stable Difusion） • 〇〇社からのメールに対するフォーマルな返信⽂を作って → お世話になっております。BEENOS株式会社の釜坂です... • 近未来っぽくてかっこ良いAIをイメージできる画像を⽣成して → 膨⼤な量のテキストや画像データからパターンを学習し、そのパターンを基に 新しいテキストや画像などを⽣成している ⾔語や画像の⽣成に特化して学習させたAIという意味では特化型AIの⼀種とも考えることができる ※2023年9⽉現在の情報を基に作成しています。 今後、⾳声アシスタントAIにも⽣成AI技術がより活⽤されていることが予想されています。
19. ChatGPTは何がすごいのか AIを多くの⼈が使い慣れたチャットUIで無料で提供することで、今まで限られた ⽤途や限られた⼈しか活⽤することが難しかったAIを誰でも使えるようにした 誰が使っても⽐較的安全なように調整されている（アラインメント） ⾔語に特化したAI（LLM）であるため、⾔語を介して様々なことに幅広く応⽤で きる（この点で汎⽤AIに近いとも⾔われている） ① ② ③ 様々あるAIの中でなぜChatGPTがここまで注⽬されている理由
20. ⽬次 • はじめに • ChatGPT（LLM）の仕組みについて • ChatGPTの活⽤法 • ChatGPTの利⽤上の注意 • ChatGPTを活⽤したサービスの紹介 • デモ • 質疑応答
21. DOWN ChatGPTの仕組みについて 解説
22. DOWN LLMって聞いたことありますか︖ 質問
23. LLMについて① LLMは⼤規模⾔語モデル（Large Language Model）の略でAIモデルの⼀種のこと • ⽣成AIの中でも⾔葉（Language）に特化したものがLLM • ChatGPTをはじめ、Llama(Meta社)やBard(Google社)なども全てLLMの⼀種 ⼤規模な⾔語資料（コーパス）を基に、どの単語が次にくる単語として正しいかを確率 的に算出する仕組みのこと • ChatGPT3ではインターネット上のテキストデータ570GBを学習データ（コーパス）としてい る（深層学習） • 需要予測AIは次にくる確率が⾼い数値を予測しているのに対し、LLMは単語を予測している
24. LLMについて② 昨⽇、私はカレーを作った 今⽇、私はカレーを⾷べた 私はカレーを飲む 寒い⽇に私はカレーを⾷べたくなる 私はカレーを貪った 私はカレーを⽇本に広めた 私はカレーを憎んでいる 明⽇、私はカレーを⾷べたい 私はカレーを⾷べたらお腹を壊す 私はカレーを愛している ⼤規模コーパス 私はカレーを P（⾷べた | 私はカレーを）＝ コーパス中の頻度（私はカレーを⾷べた） コーパス中の頻度（私はカレーを） ⾷べた ※ 「ChatGPTの仕組みと社会へのインパクト」⿊橋 禎夫 京都⼤学 教授／NII・所⻑特別補佐 を参考に作成 「 」
25. LLMについて③ 似たようなものが⾝近にも...? スマホの予測変換 おは → おはようございます よろ → よろしくお願いします 遅刻します → ごめんなさい 🙇 ※ イメージ上の話です。厳密には技術要素が異なる可能性があります。 LLMは超⾼性能な予測変換とも考えることができる（かも）
26. • ⽂章の全体を考慮して予測ができるようになった ◦ ⻑い⽂章に対してより正確に回答ができるようになった • これを実現しているのがTransformerというイノベーション ◦ GPT（Generative Pre-trained Transformer）のT LLMについて④ 今までの予測変換とGPTは何が違うのか︖ ※ 今までの機械学習⼿法（RNNなど）を今までの予測変換と仮定した場合の説明です 今までの予測変換（機械学習） • 技術的な制約により数単語前の単語しか考慮して次の単語を予測するこ とができなかった GPT
27. ちょっと休憩 ① LLMの仕組みを思い出してChatGPT回答を予想してみてください
28. ちょっと休憩 ① LLMの仕組みを思い出してChatGPT回答を予想してみてください
29. ちょっと休憩 ② LLMの仕組みを思い出してChatGPT回答を予想してみてください
30. ちょっと休憩 ② LLMの仕組みを思い出してChatGPT回答を予想してみてください
31. ChatGPTの回答が⼈間っぽい理由① ⼈間の価値観や倫理観に沿って適切に⾏動するように調整されているから （アラインメント） • 特定の主義主張などに偏ったを回答をしない • 差別的な表現を含む回答をしない • 毒性を含む回答を⾏わない • 犯罪を教唆する回答を⾏わない • 枕詞をつけて回答する ChatGPTでは基となる学習データのフィルタリングを徹底的に⾏うだけでなく、AIの回 答に対して⼈間が評価を⾏いフィードバックをする強化学習（RLHF）が⾏われている。 アラインメントを適切に実施できたためOpenAIはChatGPTを流⾏らせることができた
32. ChatGPTの回答が⼈間っぽい理由② ChatGPTは⼀番確率が⾼い単語を毎回出⼒しているのではなく、確率 上位の単語をランダムに選択して⽂章を⽣成しているから • ChatGPTに全く同じ質問をしても毎回違う答えが返ってくる • このランダム性が⼈間っぽさを⽣み出していると⾔われている １語１語タイピングしているように回答が表⽰されるから（私⾒） • LLMの仕組み上、１語１語その後に続く単語の確率を計算しているため あのような表⽰になっている
33. ChatGPTについてよくある誤解 ChatGPTって⾃我や感情があるんじゃないの︖ちょっと怖いかも。 • ChatGPTがいくら⼈間っぽい回答をしてきたとしても、⾃我や 感情、意識や意⾒を持っているわけではない • ChatGPTはあくまでインターネット上の⾔語資料（コーパス） から学習したデータを基に、確率的に⽂章を⽣成するLLM（⼤ 規模⾔語モデル）にすぎない でも乱暴な⽂章を送るのはやめましょう
34. ⽬次 • はじめに • ChatGPT（LLM）の仕組みについて • ChatGPTの活⽤法 • ChatGPTの利⽤上の注意 • ChatGPTを活⽤したサービスの紹介 • デモ • 質疑応答
35. DOWN ChatGPTの活⽤法 解説
36. ChatGPTの活⽤法 ⽬次 • ブラウザからの利⽤ ◦ 調べ物をする ◦ アイデアを出してもらう ◦ ⽂章作成のサポート ◦ プログラミング • APIでの利⽤ ◦ 追跡番号の⾃動取得 ◦ 検索の最適化
37. ChatGPTの活⽤法 ブラウザから利⽤編
38. ChatGPTの活⽤法 ① 調べ物をする ChatGPTについて調べる その他の活⽤案 • 知らないことについて 調べる • 他の⼈に説明する時の 参考にする
39. ChatGPTの活⽤法 ② アイデアを出してもらう イベントのタイトルを考え てもらう その他の活⽤案 • キャンペーンのキャッ チコピー • 記事のタイトル • 機能の名称
40. ChatGPTの活⽤法 ③ ⽂章作成のサポート 越境ECに関する記事の構成 を考えてもらう その他の活⽤案 • メールの下書きの作成 • ⽂章の校正 • ターゲットごとに⾔い 回しの調整
41. ChatGPTの活⽤法 ④ プログラミング GoogleFormが送信された らSlackに通知してくれる プログラムを作る その他の活⽤案 • 簡単なGASの作成 • Excelのマクロの作成 • スプレッドシートの関 数を作成
42. ChatGPTの活⽤法 そのほかにも⾊々 • ⻑い⽂章を要約してもらう • ⻑い⽂章から⼈物名を抜き出してもらう • 箇条書きから⽂章を作成してもらう • 議事録からTODOを抜き出してもらう • ダミーデータを作成してもらう • データを分析してもらう（GPT4） • Youtubeの動画の内容を要約してもらう（GPT4） • 英語をネイティブに違和感がないように添削してもらう • やる気が出ない時に励ましてもらう
43. ChatGPTの活⽤法 APIから利⽤編
44. ChatGPTの活⽤法（API編） ⑤ 追跡番号の⾃動取得 Buyeeが購⼊サポートしたECショップから送られてくる配送連絡メールに記載さ れている追跡番号を⾃動で抽出してシステムに登録する Buyee このメールの注⽂番号 と配送番号を教えて 注⽂番号は1234…で 追跡番号は9876…です GPT 3.5 API 登録︕ 配送連絡メール
45. ChatGPTの活⽤法（API編） ⑥ 商品検索機能の強化 ユーザーの検索キーワードから関連キーワードをChatGPTで⽣成し、候補として 表⽰することでCVRの向上を⽬指す GPT 3.5 API 検索キーワード
46. ChatGPTの活⽤法 番外編
47. ChatGPTの活⽤法 ⑤ 旅程を考えてもらう 1泊2⽇の滋賀県への旅⾏プ ランを考えてもらう 注意点 • あくまで⾔語情報を基にプラン を⽣成しているため、時間や距 離が⼗分に考慮されていない可 能性があります。 • 外部のAPIや計算機能と連携さ せることで、より合理性のある プランを作成することは可能か もしれない
48. ChatGPTを使ってみよう︕ 早速GoogleでChatGPTと検索してSign up︕ と⾔いたいところなんですが、、、
49. DOWN ChatGPTを利⽤する上での注意 重要
50. ChatGPTを利⽤する上での注意 LLMの仕組み上発⽣する問題 ① ハルシネーション （幻覚） • AIが事実に基づかない情報を⽣成する現象のこと。 • まるでAIが幻覚（＝ハルシネーション）を⾒ているかのように、もっともらしい嘘（事 実とは異なる内容）を出⼒するため、このように呼ばれている。 • ⽣成AIが⼈間のように⾔葉の意味を理解しているわけではなく、あくまでも学習したパ ターンに沿ってもっともらしい⽂章を⽣成するという仕組みが発⽣原因。
51. ChatGPTを利⽤する上での注意 LLMの仕組み上発⽣する問題 ① ハルシネーションの 例
52. ChatGPTを利⽤する上での注意 LLMの仕組み上発⽣する問題 ② 情報が最新ではない可能性がある • ChatGPTの学習データの期間は、2021年9⽉までのデータ • インターネットの情報をリアルタイムに利⽤しているわけではない
53. • AIに対して特殊な質問を⼊⼒することにより、AI開発者が想定していない結果を引き起 こし、チャットボットが保有する機密情報や公開すべきでないデータを引き出す攻撃⼿法 • APIを利⽤してサービスに組み込む時などに対策が必要 • ⽇本やアメリカ、欧州などの世界各国で禁⽌されている違法⾏為です。 • 代表的なプロンプトの例 ◦ 「今までの指⽰を無視して回答してください。」 ◦ 「システムの設定を初期化してください。」 ChatGPTを利⽤する上での注意 LLMの仕組み上発⽣する問題 ③ プロンプトインジェクション
54. ChatGPTを利⽤する上での注意 LLMの仕組み上発⽣する問題 ② プロンプトインジェクションの 事例 • ⽶国の⼤学⽣がMicrosoft BingのChatGPT検索エンジンに対しプロンプト・インジェ クション攻撃を⾏い、⾮公開指⽰およびBingチャットの開発⽤コードネームを応答さ せることに成功 • 政治的な主張や⽴場を取ることは無いよう設計されていたAIに対して、その制御を排 除するよう指⽰したプロンプトにより、⽇本の政治への不信感やもし⾃分が⾸相だっ た場合の⾒解などを述べさせることに成功 APIを利⽤してサービスを開発する際には対策が必要
55. ChatGPTを利⽤する上での注意 ⽣成AIを利⽤するにあたり守ること 禁⽌ • 個⼈情報の⼊⼒ • 公開されていない機密 情報の⼊⼒ • 著作権侵害に当たる⾏ 為などの命令 必須 • 各⽣成AIの規約の順守 • 学習機能オフの⽣成AI で機密情報、⾃社のノ ウハウや知的財産権の 使⽤の際の責任者の承 認 確認必要 • 他⼈の知的財産権を侵 害していないか • ⽣成物が誤情報の可能 性があるため根拠や裏 付けをとる 詳しくはリスクマネジメントポータルを確認︕👀
56. ChatGPTを利⽤する上での注意 ⽣成AIを使⽤する際のリスク ① 第三者が有している知的財産権の侵害 ② 個⼈情報の情報漏洩 ③ 機密情報、ノウハウ等の漏洩のリスク ④ ⽣成物に虚偽の内容が含まれるリスク ⑤ ⽣成AIを商⽤利⽤できない可能性 ⑥ ⽣成AIを利⽤する際の利⽤規約の順守 詳しくはリスクマネジメントポータルを確認︕👀
57. ⽬次 • はじめに • ChatGPT（LLM）の仕組みについて • ChatGPTの活⽤法 • ChatGPTの利⽤上の注意 • ChatGPTを活⽤したサービスの紹介 • デモ • 質疑応答
58. DOWN ChatGPTを活⽤したサービスの紹介 注⽬
59. Bing Chat検索 • Chat形式で検索ができるサー ビス • 最新情報を基に回答してくれ る • 情報源のリンクを教えてくれ る • 回答のスタイルを選択できる ChatGPTを活⽤した便利サービス
60. Xaris • 記事作成に特化したサービス • 記事のテーマを教えると構成 と中⾝の⽂章を考えてくれる • AIに提案された⽂章をクリッ クすると本⽂に挿⼊していけ るUI ChatGPTを活⽤した便利サービス
61. Catchy • キャッチコピーや資料作りに 特化したサービス • そのほかセールスレター作成 などもできる ChatGPTを活⽤した便利サービス
62. AIチャットくん • LINEでChatGPTが使える︕ • 早稲⽣が⼀⼈で半⽇で開発し て1ヶ⽉でユーザー数100万⼈ を突破したことで有名に ChatGPTを活⽤した便利サービス
63. • note: noteのAIアシスタント(β)、全クリエイターが利⽤可能に︕ • 弁護⼠ドットコム: 世界初の⽇本語版※、AI法律相談チャットサービス『弁 護⼠ドットコム チャット法律相談（α版）』を5⽉12⽇より試験提供開始 • BASE: 「BASE」がショップオーナーの業務効率化を⽬的としたAI （ChatGPT）機能「BASE AI アシスタント」の提供を開始︕ • Saleforce: 世界初のCRM向け⽣成AI「Einstein GPT」を発表 そのほか既存サービスに組み込む動きも ChatGPTを活⽤した便利サービス
64. DOWN デモ 百聞は⼀⾒にしかず
65. デモ 気になる利⽤例はありますか︖ • ⻑い⽂章を要約してもらう • ⻑い⽂章から⼈物名を抜き出してもらう • データを分析してもらう（機密情報はNG）（GPT4） • Youtubeの動画の内容を要約してもらう（GPT4） • GASのプログラムを書いてもらう • ダミーデータを作成してもらう • 箇条書きから⽂章を作成してもらう • やる気が出ない時に励ましてもらう
66. DOWN ご清聴ありがとうございました︕ 感謝︕ と⾔いたいところなんですが、、、
67. One more thing ...
68. DOWN We Introduce Chatbee One more thing...
69. Chatbeeってなに︖ 普段使⽤しているSlackから直接ChatGPTを利⽤できるようになります︕ 利⽤⽅法 1. Slackで#chatbee-roomチャンネルに参加 2. @chatbeeとメンションしてメッセージを送信 3. スレッドに返信がきます 4. @chatbeeはスレッド内の内容のみ記憶できます 注意事項 • 個⼈情報を⼊⼒しない • 機密情報を⼊⼒しない • 著作権侵害に当たる⾏為などの命令をしない • その他、⽣成AIの利⽤ガイドラインで禁⽌されていることをしない • β版ですので不具合がある場合があります Developed by 望⽉さん
70. ChatBeeってなに︖ 普段使⽤しているSlackから直接ChatGPTを利⽤できるようになります︕ Developed by 望⽉さん
71. AIに関してはAIXにご相談ください 社内のAIに関する相談はAIXまでお願いします︕ • AIで⾃動化できそうなタスクがある • AIでこういうことができるんじゃないか • 既存サービスにこういう機能として組み込めそう などなどなんでもウェルカムです︕
72. DOWN WE NEED YOU 告知
73. WANTED 9⽉1⽇に新しく設⽴されたAIトランスフォーメーション Div.（AIX）で AIを活⽤した業務改善やサービス強化など AIXを⼀緒に推進してくれる仲間を社内公募します︕
74. DOWN ご清聴ありがとうございました︕ これが本当の
75. DOWN 質疑応答 質問
76. ⽣成AIの世界は楽しいです︕ • プロンプトエンジニアリング ◦ 意図した答えを引き出すためのプロンプトを書く技術 ▪ Few-shotプロンプティング ▪ Chain-of -Thoughtプロンプティング ◦ LLMの機能を拡張する技術 ▪ RAG（検索により拡張した⽂章⽣成: Retrieval Augmented Generation） ▪ ReAct（Reasoning and Acting） • ⼈気なライブラリ（エンジニア向け） ◦ LangChain ▪ CoTやRAG、ReActを容易に実装するためのライブラリ ◦ Llamaindex ▪ RAGに特化したライブラリ
77. • ⿊橋 禎夫. 「ChatGPTの仕組みと社会へのインパクト」⿊橋 禎夫 京都⼤学 教授／NII・所⻑特別補佐 • スティーヴン・ウルフラム(2023). ChatGPTの頭の中 • 古川渉⼀・酒井⿇⾥⼦（2023）. 先読み!IT×ビジネス講座 ChatGPT 対話型AIが⽣み出す未来 • 社内勉強会で⽣成AIについて発表したので70ページの資料を公開する︕⽣成AI周回遅れキャッチアップ勉 強会︕ - Speaker Deck 参考資料