Upgrade to Pro — share decks privately, control downloads, hide ads and more …

2023/08/31 Watson でつくる生成AIチャットボット

Mats
August 31, 2023

2023/08/31 Watson でつくる生成AIチャットボット

Watson でつくる生成AIチャットボット

Mats

August 31, 2023
Tweet

More Decks by Mats

Other Decks in Technology

Transcript

  1. ⽇本アイ・ビー・エム株式会社 ύʔτφʔΞϥΠΞϯεࣄۀ෦ιϦϡʔγϣϯ૑ग़ϥϘ ソリューションアーキテクト 松島 輝昌 [email protected] SI企業、医療機器メーカー、通信企業等でエンジニアとして研鑽。 現在、⽇本IBMにてソリューション アーキテクトとして従事。 twitter

    : @trtrbohz facebook : https://www.facebook.com/Teru.Matsushima Linked-in : https://www.linkedin.com/in/teruyoshi-matsushima 2014年6⽉ E2D3 ver0.1 企画・設計・開発・構築 ⽇経ソフトウエア主催のOffice⽤アプリ開発コンテストにて特別賞受賞 ⾃⼰紹介 2
  2. "HFOEB  ໨త  ੜ੒"*ʹ͍ͭͯ  8BUTPO ੜ੒"*ϋϯζΦϯ  8BUTPO

    ੜ੒"*ϋϯζΦϯ  8BUTPO%JTDPWFSZ  8BUTPO ੜ੒"*ϋϯζΦϯ  8BUTPO/FVSBM4FFL  8BUTPO ੜ੒"*ϋϯζΦϯ  8BUTPO"TTJTUBOU 
  3. υϝΠϯ࠷దԽΞϓϦέʔγϣϯ͔ΒຒΊࠐΈՄೳͳϥΠϒϥϦ·Ͱɺ Ϗδωεʹ࠷దͳϑΥʔϜϑΝΫλ Applications Libraries ࣄલߏஙࡁΈɺࣄલτϨʔχϯάࡁΈ ͷϏδωευϝΠϯ࠷దԽ /BUVSBM-BOHVBHF1SPDFTTJOH 4QFFDIUP5FYU  5FYUUP4QFFDI

    ϥΠϒϥϦܗ͔ࣜ4BB4αʔϏε ͱͯ͠ఏڙ 7JSUVBM"HFOU "*%SJWFO*OTJHIUT %BUB 4DJFODF1MBUGPSN 0CTFSWBCJMJUZ7JTJPO ॊೈੑͱ֦ுੑ Ͳ͜ʹͰ΋ಋೖՄೳ Watson Assistant Instana Watson Discovery Maximo Visual Inspection 5
  4. ର࿩ܕAIʴੜ੒AI 7 © 2023 IBM Corporation Coversational AI e.g. Watson

    Assisatnt Generative AI e.g. NeuralSeek, ChatGPT + = Watson Assistant with Generative AI • ձ࿩ΛҾ͖ग़͢ػೳ • ୤ઢͯ͠΋࿩Λຊ୊ʹ໭͢ػೳ • ᐆດͳ··ձ࿩ΛऴΘΒͤͳ͍ػೳ • ෳࡶͳ࣭໰ʹ΋ͦͷ৔Ͱճ౴͢Δػೳ • ձ࿩಺༰ʹଈͨ͠ճ౴Λੜ੒ • ࣾ಺ίϯςϯπʹج͍ͮͨจষΛੜ੒ • ର࿩ཤྺ͔Βίϯςϯπ෼ྨɺFAQΛ ੜ੒͠ܧଓֶश΁ܨ͛Δ ৴པͰ͖Δର࿩ݕࡧ ύʔιφϥΠζ ͞Εͨฦ౴ ର࿩ϑϩʔߏஙͷ ࣌ؒΛ୹ॖ ૢ࡞ΨΠυ࡞੒ͷ ؆ศԽ ର࿩ܕAIͱੜ੒AIΛ૊Έ߹ΘͤΔ͜ͱͰΑΓߴ͍Ϣʔβʔମݧ͕࣮ݱͰ͖·͢ɻ ର࿩ܕAI ੜ੒AI
  5. 認識AI (Discriminative AI) こんにちは ⽣成AI (Generative AI) “こんにちは” “ネコ” 90%

    “トラ”10% ⾳声認識 画像認識 ⾳声 画像 指⽰ ⽣成 ⼊⼒情報を認識・識別 ⼊⼒情報に従い情報を⽣成 ChatGPTで注⽬の「⽣成AI」、これまでのAIと何が異なる? https://xtech.nikkei.com/atcl/nxt/column/18/02433/041400001/?P=2 8 ੜ੒AIͱ͜Ε·ͰͷAIͷҧ͍
  6. ج൫Ϟσϧͷར఺ͱݒ೦ ڊେσʔλͰֶश গྔσʔλͰ௥Ճֶशʢඍௐ੔ʣ ج൫ϞσϧʹΑΔAI։ൃ ैདྷͷػցֶशʹΑΔAI։ൃ ج൫ Ϟσϧ ༻్ຖʹϞσϧΛ࡞੒ ̍ͭͷڊେͳج൫ϞσϧΛ࡞੒͓͚ͯ͠͹ ݸʑͷ༻్Ή͚AI͸গྔͷσʔλͰ࣮ݱՄೳ

    “IBMͷϑΝ΢ϯσʔγϣϯɾϞσϧ΁ͷऔΓ૊Έͱۀ຿Ͱͷ׆༻” https://www.ibm.com/blogs/smarter-business/business/foundation-model/ Ϗδωεʹ ద͍ͯ͠Δ͔ ݒ೦ • ਖ਼֬͞ • όΠΞε • ಁ໌ੑ • σʔλͷग़ࣗ • આ໌ੑ • ΧελϚΠζੑ • ࣮ߦ؀ڥ • ܭࢉίετ 9
  7. +AI→ AI+の時代へ: IBMの考え これまでのAI (機械学習) これからのAI (基盤モデル) 案件ごとに データを 準備し学習

    学習済み基盤 モデルを活⽤し AI構築効率化 ⼀般向け⼤規模 ⾔語モデル(LLM)の ユーザー利⽤ AIビジョン ⾃社の価値をAI化する 「AI価値創造企業」 になる watsonx ˍ 10
  8. 本⽇実施内容の全体像 Integrate NeuralSeek with Watson Assistant and Watson Discovery IBM

    Tech Dojo 1時間でできる︕︖ NeuralSeek を使⽤して、既存のヘルプ・コンテンツから洗練された回答を返します。 企業ユースケースとして、問い合わせに対する回答を企業⽂書内か ら検索し⽣成AIと⾃然な⽂章を構築し、対話型AIにて回答する。 Watson Assistant IBM Cloud NuralSeek Watson Discovery 12 参照
  9. 本⽇の⼿順 Watson Assistant NuralSeek Watson Discovery ① Watson Discovery に⽂書投⼊

    ② NeuralSeek と Watson Discovery を連携 ③ Watson Assistant と NeuralSeek を連携 注1 IBM Cloud アカウントの取得が必要です。 取得⽅法に関しては、Embeddable AI Dojo #2 を ご参照ください。 注2 場合により料⾦が発⽣することがございます。 注3 NeuralSeekは3rdパーティー製ツールのため、動作 等に関してIBMは責任を負いません。 注4 状況によっては今回案内する画⾯等が変更になってい る場合がございます。ご了承ください。 ① ② ③ 15
  10. 17 1. IBM Cloud (https://cloud.ibm.com/) にIBM Id を使ってサインイン 2.「Discovery」を検索し、表⽰された 「Watson

    Discovery」をクリック ロケーション︓東京(jp-tok) 料⾦プラン : プラス 同意チェック後「作成」 4.1. Watson Discovery ① ① ② ③ 3.必要事項を記載し 「作成」をクリック 17
  11. 4.1. Watson Discovery ② 「Watson Discovery の起動」をクリック ※NeuralSeekとの連携時、API鍵とURL を⼊⼒します。 「New

    project +」をクリック 1.「Project name」:“IBM辞書”(任意) 2.「Project type」:“Conversational Search” 3. 右下の「Next →」をクリック 18 ① ② ③
  12. 4.1. Watson Discovery ③ 「Web crawl」をクリックし、 右下の「Next→」 1. Collection name

    : IBM辞書 (任意) 2. Collection Language : Japanese 3. Crawl Schedule : Weekly (任意) 4. Starting URL : https:///www.ibm.com/jp-ja こうなればO.K. クロール開始 19 ① ② ③ ④ クロール完了時
  13. 4.1. Watson Discovery ④ 1. 左列にある「Integrate and deploy」をクリック 2.「API Information」をクリック

    ① ② NeuralSeekとの連携時、ここの Project ID を⼊⼒します。 20
  14. 1.IBM Cloudにて「neuralseek」を検索 し、表⽰された「NeuralSeek」をク リック 4.2. NeuralSeek ① ロケーション︓シドニー(au-syd) 料⾦プラン :

    Lite 同意チェック後「作成」 ① ② ③ 2.必要事項を記載し「作成」をクリック ※下図のようにLiteプランにすると無料です。 22
  15.  /FVSBM4FFL ᶅ ᶃ ᶄ ᶅ ᶆ ᶇ  ,OPXMFEHF#BTF5ZQF8BUTPO%JTDPWFSZ

    ,OPXMFEHF#BTF5ZQF+BQBOFTF %JTDPWFSZ4FSWJDF63-%JTDPWFSZϙʔλϧʹදࣔΕͨ63- %JTDPWFSZ"1*,FZ%JTDPWFSZ ϙʔλϧʹදࣔΕͨ"1*伴 %JTDPWFSZϓϩδΣΫτ*%࡞੒ͨ͠%JTDPWFSZͷϢχʔΫ*% ʮ/FYUʯΫϦοΫ 7JSUVBM"HFOUUZQF8BUTPO"TTJTUBOU"DUJPOT &OBCMFEMJOLTJOUPSFUVSOFESFTQPOTFT&OBCMF ˞ճ౴ੜ੒࣌ʹ৘ใݩͷ༗ޮͳϦϯΫ0O0GG ʮ/FYUʯΛΫϦοΫ ᶉ ᶊ  ᶈ ᶋ
  16.  8BUTPO"TTJTUBOUᶇ l"EE zΛΫϦοΫ ᶃ ᶄ l/FYUzΛΫϦοΫ ᶅ ʮ"VUIFOUJDBUJPOUZQFʯ"1*LZFBVUI "1*LFZ/FVSBM4FFLᶇͰϝϞͯ͠

    ͓͍ͨl"1*LFZzΛࢦఆ ʮ/FYUʯΛΫϦοΫ ᶆ l'JOJTIzΛΫϦοΫ ᶇ  "TTJTUBOU <*#.ͱ͸> l"EEzΛΫϦοΫ
  17.  8BUTPO"TTJTUBOUᶈ l$SFBUF/FX z ΛΫϦοΫ ᶃ l$SFBUFBTTJTUBOUz ΛΫϦοΫ ᶆ lUFNQMBUFzͱೖྗ

    ᶄ l&OHMJTI 64 zΛબ୒ ˞ޙͷ޻ఔ  8BUTPO "TTJTUBOUᶋ ͰUFNQMBUFΛར༻ Ͱ͖ͳ͘ͳΔ ᶅ  • /FVSBM4FFL"TTJTUBOU࿈ܞ෦඼Λ UFNQMBUFͱͯ͠࡞੒ • "TTJTUBOUΞϓϦʹUFNQMBUFऔΓࠐ Έ/FVSBM4FFLͱ࿈ܞ
  18.  8BUTPO"TTJTUBOUᶋ l"EE zΛΫϦοΫ ᶃ l"EEzΛΫϦοΫ ᶄ l/FYUzΛΫϦοΫ ᶅ ʮ"VUIFOUJDBUJPOUZQFʯ"1*LZFBVUI

    "1*LFZ/FVSBM4FFLᶇͰϝϞͯ͠ ͓͍ͨl"1*LFZzΛࢦఆ ʮ/FYUʯΛΫϦοΫ ᶆ l'JOJTIzΛΫϦοΫ ᶇ  "TTJTUBOU <UFNQMBUF>
  19.  8BUTPO"TTJTUBOU "TTJTUBOU <UFNQMBUF> lBDUJPOTzΛΫϦοΫ ᶃ l/FVSBM4FFL TFBSDIz ΛΫϦοΫ ᶄ

    ࡾ൪໨ͷεςοϓΛબ୒ ΛΫϦοΫ ᶅ l&EJUFYUFOUJPOzΛΫϦοΫ ᶆ 
  20.  8BUTPO"TTJTUBOU "TTJTUBOU <UFNQMBUF> l/FVSBM4FFLzΛબ୒ ᶃ 1BSBNFUFST<5SRVFTUJPO> <4FTTJPO7BSJBCMF><5SRVFSZ@UFYU> ᶄ 0QUJPOBM1BSBNFUFST

    <PQUJPOTQFSTPOBMJ[FQSPEVDUT> <4FTTJPO7BSJBCMF><RVFSZ@DPOUFYU> ᶅ 0QUJPOBM1BSBNFUFST<5SPQUJPOTMBOHVBHF> <&YQSFTTJPO>ʮlKBzʯ ᶆ l"QQMZzΛΫϦοΫ ᶈ  0QFSBUJPO 4FFLBOBOTXFSGSPN/FVSBM4FFL ᶇ
  21.  8BUTPO"TTJTUBOU "TTJTUBOU <*#.ͱ͸> ର৅"TTJTUBOUͷ੾Γସ͑ ˞ࠓճ͸l*#.ͱ͸z ᶃ l/FVSBM4FFL 4FBSDIzͷ4UBUVT͕྘Ͱ͋Δ͜ͱΛ֬ೝ ᶅ

    l"DUJPOzΛબ୒ ᶄ l4FUCZBTTJTUBOUz  l/PBDUJPONBDIFTzΛબ୒ ᶆ ̎ͭͷεςοϓΛ࡟আ ᶇ 
  22. એ఻ <૊ΈࠐΈAI ηϧϑαʔϏεܕσδλϧڞ૑ମݧ> 2JJUB ϒϩά࢝Ί·ͨ͠ɻ ͪ͜ΒͰɺDigital Self-Serve Co-Create Experience( h"ps://dsce.ibm.com/

    ) ʹهࡌ͍ͯ͠Δίϯςϯπʹ͍ͭͯʮ΍ͬͯΈͨʂʯ ͱ͍͏΋ͷΛ̎िʹ̍౓ͷස౓Ͱൃ৴͍͖ͯ͠·͢ɻ ·ͨɺίϛϡχςΟ΋͋Γ·͢ɻ IBM AI and Data Science Λ๚ΕͯʮJoin nowʯΛͯ͘͠ΕΔͱخ͍͠Ͱ͢ɻ 49 「qiita dsce」で検索
  23. ワークショップ、セッション、および資料は、IBMまたはセッション発表者によって準備され、それぞれ独⾃の⾒解を反映したものです。それらは情報提供の⽬的のみで 提供されており、いかなる参加者に対しても法律的またはその他の指導や助⾔を意図したものではなく、またそのような結果を⽣むものでもありません。本講演資料に 含まれている情報については、完全性と正確性を期するよう努⼒しましたが、「現状のまま」提供され、明⽰または暗⽰にかかわらずいかなる保証も伴わないものとし ます。本講演資料またはその他の資料の使⽤によって、あるいはその他の関連によって、いかなる損害が⽣じた場合も、IBMは責任を負わないものとします。 本講演資 料に含まれている内容は、IBMまたはそのサプライヤーやライセンス交付者からいかなる保証または表明を引きだすことを意図したものでも、IBMソフトウェアの使⽤を 規定する適⽤ライセンス契約の条項を変更することを意図したものでもなく、またそのような結果を⽣むものでもありません。 本講演資料でIBM製品、プログラム、またはサービスに⾔及していても、IBMが営業活動を⾏っているすべての国でそれらが使⽤可能であることを暗⽰するものではあり ません。本講演資料で⾔及している製品リリース⽇付や製品機能は、市場機会またはその他の要因に基づいてIBM独⾃の決定権をもっていつでも変更できるものとし、い かなる⽅法においても将来の製品または機能が使⽤可能になると確約することを意図したものではありません。本講演資料に含まれている内容は、参加者が開始する活

    動によって特定の販売、売上⾼の向上、またはその他の結果が⽣じると述べる、または暗⽰することを意図したものでも、またそのような結果を⽣むものでもありませ ん。 パフォーマンスは、管理された環境において標準的なIBMベンチマークを使⽤した測定と予測に基づいています。ユーザーが経験する実際のスループットやパ フォーマンスは、ユーザーのジョブ・ストリームにおけるマルチプログラミングの量、⼊出⼒構成、ストレージ構成、および処理されるワークロードなどの考慮事項を 含む、数多くの要因に応じて変化します。したがって、個々のユーザーがここで述べられているものと同様の結果を得られると確約するものではありません。 記述されているすべてのお客様事例は、それらのお客様がどのようにIBM製品を使⽤したか、またそれらのお客様が達成した結果の実例として⽰されたものです。実際の 環境コストおよびパフォーマンス特性は、お客様ごとに異なる場合があります。 IBM、IBM ロゴ、ibm.com、IBM Cloud、IBM Cloud Paksは、 世界の多くの国で登録されたInternational Business Machines Corporationの商標です。他の製品名および サービス名等は、それぞれIBMまたは各社の商標である場合があります。現時点での IBM の商標リストについては、www.ibm.com/legal/copytrade.shtmlをご覧くださ い。 Microsoft, Windows, Windows Server, .NET Framework, .NET, .NET Coreは、Microsoft Corporationͷ঎ඪ·ͨ͸ొ࿥঎ඪͰ͢ɻ 50