AWS re:Invent 2024登壇資料（GBL206-JA: Unleashing the power of generative AI on AWS for your business）

Slide 1

Slide 1 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Unleashing the power of generative AI on AWS for your business Minoru Onda G B L 2 0 6 - J A Technology Evangelist KDDI Agile Development Center Rio Kurokawa Principal, Data & AI Specialist Amazon Web Services

Slide 2

Slide 2 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 留意事項この資料は、AWS re:Invent 2024当日の投影資料（GBL206-JA）から御田のプレゼンテーションを抜粋したものとなります。 PDF化しているためムービーは再生できません。ご興味あれば御田のYouTubeチャンネルよりご覧ください。 youtube.com/@minorun365

Slide 3

Slide 3 text

Slide 4

Slide 4 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. $ whoami 御田稔（みのるん） @minorun365 テックエバンジェリスト KDDIアジャイル開発センター株式会社（KAG）クラウドや生成AIを使って内製開発を行いながら、技術の楽しさを伝える活動をしています。・AWS Community Hero ・AWS Samurai 2023 ・2024 Japan AWS Top Engineer ・2024 Japan AWS All Certs Engineer Amazon Bedrockの入門書を書きました！

Slide 5

Slide 5 text

Slide 6

Slide 6 text

Slide 7

Slide 7 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 弊社KAGも、Amazon Bedrockを活用しまくっています 2023 2024 10月 2月 6月現在ビジつく！かぐたん議事録パックン本部長AI（仮称） DX新規事業のアイディア壁打ちアプリグループ会社みんなが使えるセキュアなSlackボット営業向けの業務効率化アプリ議事録＆週報を自動作成本部長の代わりにAIが営業の提案資料をレビュー Amazon Bedrock GA

Slide 8

Slide 8 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. DX新規事業を立ち上げたい！でもアイディアが浮かばない…。そんな人の壁打ち役として「デザイン思考」の基礎を教えてくれるアプリ Amazon Bedrockのプレビュー期間中に1ヶ月で企画＆開発し、GAとほぼ同時にリリース！ AWS Amplifyを活用することで超短期間でのフルスタック開発に成功。ビジつく！

Slide 9

Slide 9 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 従業員が生成AIチャットアプリを個人で使ってしまう「シャドーIT」リスクが心配。業務でも安心して使えるチャットボットを、毎日使うSlackで利用可能にしたい！インフラはすべてIaCでコード化し、CI/CDパイプラインも完備することでグループ会社へ金太郎飴のようにデプロイ！かぐたん

Slide 10

Slide 10 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 議事録パックン営業を悩ませる雑務「お客さまとの議事録作成」や「社内向けの活動報告」をAIで自動化。会議の録音ファイルをアップロードするだけで、まるで人間のように高品質な議事録を生成！生成した議事録をもとに、次回商談に向けたプレゼンの骨子を作成することもできる！自社商材をRAGで参照して、膨大なソリューションから適切なものを選択して提案してくれる。

Slide 11

Slide 11 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 本部長AI（仮称）営業が作ったお客さま向けの提案資料を、本部長の代わりにAIエージェントがレビュー！ Web検索を駆使して、市場や競合のトレンドも踏まえたブラッシュアップのヒントをくれる。 KDDI株式会社執行役員常務ビジネス事業本部副事業本部長兼ビジネスデザイン本部長那谷雅敏氏 “AIの力でお客さまへのご提案を高品質にできる素晴らしいプロダクトです。社内レビューも効率化できて「えぇボス」なんですよ。”

Slide 12

Slide 12 text

Slide 13

Slide 13 text

Slide 14

Slide 14 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ① 生成AIをビルディングブロックの一つとして活用できる AWSでは様々なサービスが「ビルディングブロック」として提供されておりユーザーはそれらを組み合わせて自由にアプリケーションを開発できる。 Amazon Bedrockもそんなビルディングブロックの一つとして提供され、既存の色々なAWSサービスと組み合わせやすいのが魅力。またAWSは「サーバーレス」サービスも充実しているので、 PoCなどで低コストなアプリケーションを開発したい場合も便利

Slide 15

Slide 15 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ② 高度な機能がマネージドサービスとして簡単に使える生成AIで商用アプリケーションを開発しようとすると、「RAG」や「エージェント」など応用的な機能を実装したくなります。求められるアプリケーションのコードが複雑になって実装難易度も上がり、そんなアプリを稼働させるインフラも必要になります。 Amazon Bedrockではそういった機能をマネージドサービスとして提供。マネジメントコンソールから簡単に設定できて、サーバーも意識不要。ユーザーはセットアップしたAPIを叩くだけで、自分のアプリにすぐ組み込めます Amazon Bedrock Knowledge Bases Amazon Bedrock Agents Amazon Bedrock Guardrails

Slide 16

Slide 16 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ③ 開発者を確保しやすく、Web上の知見も豊富何と言っても利用者が非常に多いAWS。案件開始時にスキルのあるエンジニアを集めやすい。また、JAWS-UGをはじめコミュニティでのアウトプットが活発なため困ったときにWeb検索すれば技術ナレッジが多数ヒットするため安心。生成AIアプリでは、AI以外の部分（アプリやクラウドの実装）での苦労も多いため、情報の多さは非常に重要です。ちなみに公式のAWSサポートも評判がとても良く、ちょっとした質問も素早く親切に答えてくれるので助かります。

Slide 17

Slide 17 text

Slide 18

Slide 18 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Bedrockのプレビュー段階から導入を画策 Amazon Bedrockのプライベートプレビュー開始時、まずは出向元のKDDIで利用環境の整備を始めました。 CCoEと連携して、セキュリティ部門と利用前提を合意。他社の生成AIサービスや、AWS自体はすでに社内導入の事例があったため、同様の手続きで利用できるよう事前調整を図りました。 Amazon Bedrockのプレビューは1アカウント限定だったため社内で申請ルールや費用分配の仕組みを速やかに作成し、早い段階で色んな部署のメンバーが使えるように環境を整備。

Slide 19

Slide 19 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. よく聞かれる「なぜAmazon Bedrockなの？」実際に社内で生成AIアプリの開発を始める際、去年ぐらいまでは「なぜAWSを選定するのか？」説明を求められることも。特に今年の春以降は、モデルや機能も他社を追い越す勢いで急速に強化されており主力モデルのClaudeは日本語のテキスト生成で特に高い性能を発揮します。前述したAmazon Bedrockのメリットを社内説明でも補足。私自身はエンジニアとして、複数クラウドのAIサービスも経験したうえで開発していて楽しく、どんどん機能追加されていくAWSに魅力を感じています。

Slide 20

Slide 20 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ぜひ海外リージョンも積極的に活用しましょう！クラウドの最新機能は、アメリカから順にリリースされることが多い。特にアップデートが毎週のように発生するAmazon Bedrockでは、東京リージョンで待っていると新機能がすぐ使えないことも… そこで、海外リージョンもぜひ積極的に活用しましょう！意外とデメリットは少ないんです。・モデルのAPIを呼ぶ際のレイテンシーは大差ない・AWSサービス同士なら、リージョン間通信もAWS設備内に閉じて暗号化される → 自社のルールを確認し、セキュリティ担当部署にも相談してみましょう。

Slide 21

Slide 21 text

Slide 22

Slide 22 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ① Amazon Bedrock ナレッジベース AIに追加データを参照させる「RAG（検索拡張生成）」を実現する機能 RAGがないとき RAGがあるとき KAGってどんな会社？家具屋さんです参考文献 KAGってどんな会社？ KDDIアジャイル開発センター株式会社です検索事前学習していない質問は苦手

Slide 23

Slide 23 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ① Amazon Bedrock ナレッジベースいわゆるRAGアーキテクチャが、マネジメントコンソールから簡単に作れる！ AWSクラウド社内文書など Amazon Bedrock ナレッジベース埋め込みモデル回答生成モデルベクトルDB ベクトル変換結果取得同期質問回答生成有休の申請方法は？自然言語のテキストをベクトルとして保存。 → 意味検索ができる！

Slide 24

Slide 24 text

Slide 25

Slide 25 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ② Amazon Bedrock エージェント生成AIに細かく指示出すの面倒ですよね？大きな目的を与えるとAI自ら行動計画を立てて、・必要あれば Lambda関数を実行したり… ・必要あれば RAG を使ったり… そんな自律型AIエージェントがマネジメントコンソールから簡単に作れる！ AWSクラウドナレッジベース Amazon Bedrock エージェント APIで呼び出せる関数基盤モデル外部サービスなど今年の花火大会を調べてカレンダーに登録しといて！

Slide 26

Slide 26 text

Slide 27

Slide 27 text

Slide 28

Slide 28 text

Slide 29

Slide 29 text

Slide 30

Slide 30 text

Slide 31

Slide 31 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 図表入りのスライドもRAGで活用したい！テキスト以外の図などを含む資料は、実はマルチモーダルLLMに画像として読ませることで、テキストに変換してRAGで参照できます。以前は自分でコードを書く必要がありましたが、最近ナレッジベースに機能追加。「高度なパース」にチェックを付けるだけで勝手にやってくれるように！マルチモーダルLLMにテキストで説明させる

Slide 32

Slide 32 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AIエージェントがたまに言うことを聞かない…！ AIエージェントは行動計画を自動で立ててくれて便利ですが、その反面、タスクを勝手にスキップするなど人間の思い通りにならないこともあります。 OSSのLangGraphを活用すれば、エージェントの行動をステートマシンとして細かく設計することができます。Amazon Bedrockにも対応！ Start End 行動を計画ツールを実行設定例：基準を満たした場合のみループを抜ける

Slide 33

Slide 33 text

Slide 34

Slide 34 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. なぜ生成AI領域がアツいのか？ • 基盤モデルが賢いので、アイディア次第で便利なアプリを簡単に作れる • APIを叩くだけなので内製開発の入門にも最適 • 毎週のようにアップデートがあり、コミュニティで情報共有しながら楽しめる今朝のアプデ見た!? これ熱くない？？ xxさんのブログが分かりやすかったよ！

Slide 35

Slide 35 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 大丈夫、まだ間に合います！これだけ生成AIが流行っていますが、実際に自分の手で触ったり、実装した経験のある人は意外にもまだまだ少数だといいます。「AIを活用しよう」と言いつつも、 Webニュースやベンダーさんの資料ばかりを眺めながらふわっとした検討を進めてしまっている方も意外と多いのでは…？新技術は、自分の手で触ることで格段に理解の解像度が上がります。クラウドの利点は誰でもすぐに試せることです。あなたも今すぐマネジメントコンソールにサインインしましょう！

Slide 36

Slide 36 text

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Thank you! © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Please complete the session survey in the mobile app Minoru Onda Technology Evangelist KDDI Agile Development Center Rio Kurokawa Principal, Data & AI Specialist Amazon Web Services