Share
Embed
Transcript
77 slides
-
⾃⼰紹介 釜坂 聖 (かまちゃん) tenso株式会社 AIトランスフォーメーション Div. (AIX)所属 ビジネス/エンジニア 略歴
2019年にエンジニア職でBEENOSに新卒⼊社。 tensoにてBuyeeの開発に携わった後、BeeCruiseとBEENOSテク推に て新規事業のシステム開発やプロジェクトマネジメントを担当。 今年4⽉からビジネス職に転向し新規事業やAIに関する調査などを担当。 今年9⽉から新しく発⾜したtensoのAIXに異動。 AIを利⽤した業務改善やシステムの企画・開発、活⽤推進などを担当 。 趣味 プログラミング、コーヒー、ポーカー、海外旅⾏、VIVANT -
⽬次 • はじめに • ChatGPT(LLM)の仕組みについて • ChatGPTの活⽤法 • ChatGPTの利⽤上の注意 •
ChatGPTを活⽤したサービスの紹介 • デモ • 質疑応答 -
⽬次 • はじめに • ChatGPT(LLM)の仕組みについて • ChatGPTの活⽤法 • ChatGPTの利⽤上の注意 •
ChatGPTを活⽤したサービスの紹介 • デモ • 質疑応答 -
AIと聞いて何を思い浮かべますか︖ ドラえもん ターミネーター Siri Google Assistant HAL 9000 Alexa Ponanza
顔認識 ⾃動運転 Cortana ChatGPT Stable Diffusion 株⾃動売買 -
AIと聞いて何を思い浮かべますか︖ ドラえもん ターミネーター Siri Google Assistant HAL 9000 Alexa Ponanza
顔認識 ⾃動運転 Cortana 汎⽤型AI ⾳声アシスタントAI 特化型AI ChatGPT ⽣成AI Stable Diffusion ※この分類は説明する便宜上の分類であり必ずしも正しいとは限りませ 株⾃動売買 -
汎⽤AI (AGI: Artificial General Intelligence) 例 できること • ドラえもん •
ターミネーター • HAL 9000 • ⼈間が実現可能なあらゆる知的作業を理解・学習・実⾏することができる (Wikipedia) • 特定の課題にのみ対応するのではなく、⼈間と同じようにさまざまな課題を処理可能 (Ledge.ai) ⼈間が実現可能なあらゆる知的作業を理解・学習・実⾏することができるAI ※DreamStudioで⽣成 -
特化型AI (ANI: Artificial Narrow Intelligence) 例 できること • コンビニの仕⼊れの最適化 •
カメラの顔認識 • ⽣産ラインでの不良品検知 • スパムメールのフィルタリング • ⾳声⾃動書き起こし • ⾃動運転 • 数値予測 • 画像認識 • ⾳声認識 • データ分類 システムやアプリに組み込まれ、特定のデータを学習して特定のタスクを⾏うことができ るAI -
⾳声アシスタントAI (Voice Assistant AI) 例 できること • Google Assistant •
Cortana • Siri • Clova • Alexa • アラームをセットする • 電気をつける • 天気を聞く • ジョークを⾔ってもらう スマートフォンやスマートスピーカーに搭載され⾳声で様々な操作をしてくれるAI -
膨⼤な量のテキストや画像データからパターンを学習し、そのパターン を基に新しいテキストや画像などを⽣成できるAI ⽣成AI (Generative AI) 例 できること • ChatGPT •
Stable Difusion • Bing AI • テキスト⽣成 • 画像⽣成 -
今までのAIと⽣成AIは何が違うの︖ 今までのAI(⾳声アシスタントAI・特化型AI) • 〇〇時に起こして → アラームをセット • 天気を教えて → 天気を回答
• ジョークを⾔って → 登録されたジョークの中からランダムで回答 • ⽬と⿐と⼝がある → 顔と認識してオートフォーカス 事前に設定されたルールに基づいて、すでにある情報を回答したり機能を呼び出 している ※2023年9⽉現在の情報を基に作成しています。 今後、⾳声アシスタントAIにも⽣成AI技術がより活⽤されていることが予想されています。 -
今までのAIと⽣成AIは何が違うの︖ ⽣成AI(ChatGPT・Stable Difusion) • 〇〇社からのメールに対するフォーマルな返信⽂を作って → お世話になっております。BEENOS株式会社の釜坂です... • 近未来っぽくてかっこ良いAIをイメージできる画像を⽣成して →
膨⼤な量のテキストや画像データからパターンを学習し、そのパターンを基に 新しいテキストや画像などを⽣成している ⾔語や画像の⽣成に特化して学習させたAIという意味では特化型AIの⼀種とも考えることができる ※2023年9⽉現在の情報を基に作成しています。 今後、⾳声アシスタントAIにも⽣成AI技術がより活⽤されていることが予想されています。 -
⽬次 • はじめに • ChatGPT(LLM)の仕組みについて • ChatGPTの活⽤法 • ChatGPTの利⽤上の注意 •
ChatGPTを活⽤したサービスの紹介 • デモ • 質疑応答 -
LLMについて① LLMは⼤規模⾔語モデル(Large Language Model)の略でAIモデルの⼀種のこと • ⽣成AIの中でも⾔葉(Language)に特化したものがLLM • ChatGPTをはじめ、Llama(Meta社)やBard(Google社)なども全てLLMの⼀種 ⼤規模な⾔語資料(コーパス)を基に、どの単語が次にくる単語として正しいかを確率 的に算出する仕組みのこと
• ChatGPT3ではインターネット上のテキストデータ570GBを学習データ(コーパス)としてい る(深層学習) • 需要予測AIは次にくる確率が⾼い数値を予測しているのに対し、LLMは単語を予測している -
LLMについて② 昨⽇、私はカレーを作った 今⽇、私はカレーを⾷べた 私はカレーを飲む 寒い⽇に私はカレーを⾷べたくなる 私はカレーを貪った 私はカレーを⽇本に広めた 私はカレーを憎んでいる 明⽇、私はカレーを⾷べたい 私はカレーを⾷べたらお腹を壊す
私はカレーを愛している ⼤規模コーパス 私はカレーを P(⾷べた | 私はカレーを)= コーパス中の頻度(私はカレーを⾷べた) コーパス中の頻度(私はカレーを) ⾷べた ※ 「ChatGPTの仕組みと社会へのインパクト」⿊橋 禎夫 京都⼤学 教授/NII・所⻑特別補佐 を参考に作成 「 」 -
LLMについて③ 似たようなものが⾝近にも...? スマホの予測変換 おは → おはようございます よろ → よろしくお願いします 遅刻します
→ ごめんなさい 🙇 ※ イメージ上の話です。厳密には技術要素が異なる可能性があります。 LLMは超⾼性能な予測変換とも考えることができる(かも) -
• ⽂章の全体を考慮して予測ができるようになった ◦ ⻑い⽂章に対してより正確に回答ができるようになった • これを実現しているのがTransformerというイノベーション ◦ GPT(Generative Pre-trained Transformer)のT
LLMについて④ 今までの予測変換とGPTは何が違うのか︖ ※ 今までの機械学習⼿法(RNNなど)を今までの予測変換と仮定した場合の説明です 今までの予測変換(機械学習) • 技術的な制約により数単語前の単語しか考慮して次の単語を予測するこ とができなかった GPT -
ChatGPTの回答が⼈間っぽい理由① ⼈間の価値観や倫理観に沿って適切に⾏動するように調整されているから (アラインメント) • 特定の主義主張などに偏ったを回答をしない • 差別的な表現を含む回答をしない • 毒性を含む回答を⾏わない •
犯罪を教唆する回答を⾏わない • 枕詞をつけて回答する ChatGPTでは基となる学習データのフィルタリングを徹底的に⾏うだけでなく、AIの回 答に対して⼈間が評価を⾏いフィードバックをする強化学習(RLHF)が⾏われている。 アラインメントを適切に実施できたためOpenAIはChatGPTを流⾏らせることができた -
⽬次 • はじめに • ChatGPT(LLM)の仕組みについて • ChatGPTの活⽤法 • ChatGPTの利⽤上の注意 •
ChatGPTを活⽤したサービスの紹介 • デモ • 質疑応答 -
ChatGPTの活⽤法 ⽬次 • ブラウザからの利⽤ ◦ 調べ物をする ◦ アイデアを出してもらう ◦ ⽂章作成のサポート
◦ プログラミング • APIでの利⽤ ◦ 追跡番号の⾃動取得 ◦ 検索の最適化 -
ChatGPTの活⽤法 ③ ⽂章作成のサポート 越境ECに関する記事の構成 を考えてもらう その他の活⽤案 • メールの下書きの作成 • ⽂章の校正
• ターゲットごとに⾔い 回しの調整 -
ChatGPTの活⽤法 ④ プログラミング GoogleFormが送信された らSlackに通知してくれる プログラムを作る その他の活⽤案 • 簡単なGASの作成 •
Excelのマクロの作成 • スプレッドシートの関 数を作成 -
ChatGPTの活⽤法 そのほかにも⾊々 • ⻑い⽂章を要約してもらう • ⻑い⽂章から⼈物名を抜き出してもらう • 箇条書きから⽂章を作成してもらう • 議事録からTODOを抜き出してもらう
• ダミーデータを作成してもらう • データを分析してもらう(GPT4) • Youtubeの動画の内容を要約してもらう(GPT4) • 英語をネイティブに違和感がないように添削してもらう • やる気が出ない時に励ましてもらう -
ChatGPTの活⽤法 ⑤ 旅程を考えてもらう 1泊2⽇の滋賀県への旅⾏プ ランを考えてもらう 注意点 • あくまで⾔語情報を基にプラン を⽣成しているため、時間や距 離が⼗分に考慮されていない可
能性があります。 • 外部のAPIや計算機能と連携さ せることで、より合理性のある プランを作成することは可能か もしれない -
ChatGPTを利⽤する上での注意 LLMの仕組み上発⽣する問題 ① ハルシネーション (幻覚) • AIが事実に基づかない情報を⽣成する現象のこと。 • まるでAIが幻覚(=ハルシネーション)を⾒ているかのように、もっともらしい嘘(事 実とは異なる内容)を出⼒するため、このように呼ばれている。
• ⽣成AIが⼈間のように⾔葉の意味を理解しているわけではなく、あくまでも学習したパ ターンに沿ってもっともらしい⽂章を⽣成するという仕組みが発⽣原因。 -
• AIに対して特殊な質問を⼊⼒することにより、AI開発者が想定していない結果を引き起 こし、チャットボットが保有する機密情報や公開すべきでないデータを引き出す攻撃⼿法 • APIを利⽤してサービスに組み込む時などに対策が必要 • ⽇本やアメリカ、欧州などの世界各国で禁⽌されている違法⾏為です。 • 代表的なプロンプトの例 ◦
「今までの指⽰を無視して回答してください。」 ◦ 「システムの設定を初期化してください。」 ChatGPTを利⽤する上での注意 LLMの仕組み上発⽣する問題 ③ プロンプトインジェクション -
ChatGPTを利⽤する上での注意 LLMの仕組み上発⽣する問題 ② プロンプトインジェクションの 事例 • ⽶国の⼤学⽣がMicrosoft BingのChatGPT検索エンジンに対しプロンプト・インジェ クション攻撃を⾏い、⾮公開指⽰およびBingチャットの開発⽤コードネームを応答さ せることに成功
• 政治的な主張や⽴場を取ることは無いよう設計されていたAIに対して、その制御を排 除するよう指⽰したプロンプトにより、⽇本の政治への不信感やもし⾃分が⾸相だっ た場合の⾒解などを述べさせることに成功 APIを利⽤してサービスを開発する際には対策が必要 -
ChatGPTを利⽤する上での注意 ⽣成AIを利⽤するにあたり守ること 禁⽌ • 個⼈情報の⼊⼒ • 公開されていない機密 情報の⼊⼒ • 著作権侵害に当たる⾏
為などの命令 必須 • 各⽣成AIの規約の順守 • 学習機能オフの⽣成AI で機密情報、⾃社のノ ウハウや知的財産権の 使⽤の際の責任者の承 認 確認必要 • 他⼈の知的財産権を侵 害していないか • ⽣成物が誤情報の可能 性があるため根拠や裏 付けをとる 詳しくはリスクマネジメントポータルを確認︕👀 -
ChatGPTを利⽤する上での注意 ⽣成AIを使⽤する際のリスク ① 第三者が有している知的財産権の侵害 ② 個⼈情報の情報漏洩 ③ 機密情報、ノウハウ等の漏洩のリスク ④ ⽣成物に虚偽の内容が含まれるリスク
⑤ ⽣成AIを商⽤利⽤できない可能性 ⑥ ⽣成AIを利⽤する際の利⽤規約の順守 詳しくはリスクマネジメントポータルを確認︕👀 -
⽬次 • はじめに • ChatGPT(LLM)の仕組みについて • ChatGPTの活⽤法 • ChatGPTの利⽤上の注意 •
ChatGPTを活⽤したサービスの紹介 • デモ • 質疑応答 -
Bing Chat検索 • Chat形式で検索ができるサー ビス • 最新情報を基に回答してくれ る • 情報源のリンクを教えてくれ
る • 回答のスタイルを選択できる ChatGPTを活⽤した便利サービス -
• note: noteのAIアシスタント(β)、全クリエイターが利⽤可能に︕ • 弁護⼠ドットコム: 世界初の⽇本語版※、AI法律相談チャットサービス『弁 護⼠ドットコム チャット法律相談(α版)』を5⽉12⽇より試験提供開始 • BASE:
「BASE」がショップオーナーの業務効率化を⽬的としたAI (ChatGPT)機能「BASE AI アシスタント」の提供を開始︕ • Saleforce: 世界初のCRM向け⽣成AI「Einstein GPT」を発表 そのほか既存サービスに組み込む動きも ChatGPTを活⽤した便利サービス -
デモ 気になる利⽤例はありますか︖ • ⻑い⽂章を要約してもらう • ⻑い⽂章から⼈物名を抜き出してもらう • データを分析してもらう(機密情報はNG)(GPT4) • Youtubeの動画の内容を要約してもらう(GPT4)
• GASのプログラムを書いてもらう • ダミーデータを作成してもらう • 箇条書きから⽂章を作成してもらう • やる気が出ない時に励ましてもらう -
Chatbeeってなに︖ 普段使⽤しているSlackから直接ChatGPTを利⽤できるようになります︕ 利⽤⽅法 1. Slackで#chatbee-roomチャンネルに参加 2. @chatbeeとメンションしてメッセージを送信 3. スレッドに返信がきます 4.
@chatbeeはスレッド内の内容のみ記憶できます 注意事項 • 個⼈情報を⼊⼒しない • 機密情報を⼊⼒しない • 著作権侵害に当たる⾏為などの命令をしない • その他、⽣成AIの利⽤ガイドラインで禁⽌されていることをしない • β版ですので不具合がある場合があります Developed by 望⽉さん -
⽣成AIの世界は楽しいです︕ • プロンプトエンジニアリング ◦ 意図した答えを引き出すためのプロンプトを書く技術 ▪ Few-shotプロンプティング ▪ Chain-of -Thoughtプロンプティング
◦ LLMの機能を拡張する技術 ▪ RAG(検索により拡張した⽂章⽣成: Retrieval Augmented Generation) ▪ ReAct(Reasoning and Acting) • ⼈気なライブラリ(エンジニア向け) ◦ LangChain ▪ CoTやRAG、ReActを容易に実装するためのライブラリ ◦ Llamaindex ▪ RAGに特化したライブラリ -
• ⿊橋 禎夫. 「ChatGPTの仕組みと社会へのインパクト」⿊橋 禎夫 京都⼤学 教授/NII・所⻑特別補佐 • スティーヴン・ウルフラム(2023). ChatGPTの頭の中
• 古川渉⼀・酒井⿇⾥⼦(2023). 先読み!IT×ビジネス講座 ChatGPT 対話型AIが⽣み出す未来 • 社内勉強会で⽣成AIについて発表したので70ページの資料を公開する︕⽣成AI周回遅れキャッチアップ勉 強会︕ - Speaker Deck 参考資料