AWSの⽣成AIサービス⼊⾨ ＆ 最強の書籍紹介︕ KDDIアジャイル開発センター株式会社 テックエバンジェリスト 御⽥ 稔

1 KDDI Agile Development Center Corporation $ whoami 御⽥ 稔（みのるん） @minorun365 テックエバンジェリスト KDDIアジャイル開発センター（KAG）＆ KDDI兼務 JAWS-UG運営 東京⽀部 / SRE⽀部 / NW-JAWS • AWS Samurai 2023 • 2024 Japan AWS Top Engineer & All Certs • AWS Community Builder

2 KDDI Agile Development Center Corporation ⽣成AIブーム、すごいですよね︕

3 KDDI Agile Development Center Corporation 多くの企業が「⽣成AI活⽤」に⼒を⼊れている 弊社も⽣成AIで ブチ上げるぞい︕ チミ、推進担当 よろしくな︕ えらいひと

4 KDDI Agile Development Center Corporation ⽣成AIブームの⽕付け役（⼀例） テキスト⽣成 画像⽣成 ChatGPT Stable Diffusion

5 KDDI Agile Development Center Corporation クラウド各社の⽣成AIサービス展開（アプリケーション開発者向け） マイクロソフト（Azure OpenAI Service） グーグル（Google Cloud Vertex AI） オラクル（OCI Generative AI） アマゾン（Amazon Bedrock）

6 KDDI Agile Development Center Corporation AWSクラウド Amazon Bedrockとは︖ • AWSが提供する開発者向けの⽣成AIサービス • ⽣成AIモデルをサーバーレスで、APIとして利⽤できる︕ アプリケーション サーバー Amazon Bedrock APIを叩くだけ アプリ利⽤者

7 KDDI Agile Development Center Corporation Bedrockの何がいいの︖ OpenAIとかあるやん︕ • 何よりAWSのいちサービスとして⽣成AIが使える 利⽤者多いのでエンジニアも⾒つけやすく、既存AWSシステムにも組み込みやすい。 コミュニティが超活発なので、最新機能の知⾒も爆速でインターネットに転がります • ⾊んなAI企業の有⼒モデルをいいとこ取りできる テキスト⽣成はClaude、RAG⽤の埋め込みならCohere Embed、 画像⽣成はStable Diffusion…など。モデルは⽇々追加されていく • エンプラReady。セキュリティ、ガバナンス、サポートの品質︕ ⼊⼒データが学習されない、閉域ネットワーク対応など。 AWSサポートも⾮常に評判よく、優先度低のチケットもそこそこ爆速で親切に返ってきます

8 KDDI Agile Development Center Corporation そんなBedrockの機能紹介︕

9 KDDI Agile Development Center Corporation Bedrockのメイン機能︓⽣成AIモデルを⼿軽に使える︕ 2024年7⽉時点で7社、33モデルが利⽤可能 Anthropic • Claude 3.5 Sonnet • Claude 3 Opus • Claude 3 Sonnet • Claude 3 Haiku • Claude 2.1 / Instant Cohere • Command R / R+ • Command • Command Light • Embed English • Embed Multilingual Stability AI • SDXL 1.0 Amazon • Titan Text Premier • Titan Text Express / Lite • Titan Text Embeddings • Titan Multimodal Embeddings • Titan Image Generator Meta • Llama 3 70B / 8B • Llama 2 Chat 70B • Llama 2 Chat 13B • Llama 2 70B • Llama 2 13B Mistral AI • Mistral Large • Mistral Small • Mixtral 8x7B • Mistral 7B AI21 Labs • Jumba-Instruct • Jurrasic-2 Ultra • Jurrasic-2 Mid

10 KDDI Agile Development Center Corporation 多すぎる︕︕︕ ΞϚκϯͷ Ϟσϧ͸ ଟ͗͢Δɻ

11 KDDI Agile Development Center Corporation 結局、おすすめモデルはどれなの︖ • テキスト⽣成︓Claude（Anthropic社） ◦ 最新のClaude 3.5 SonnetはGPT-4oを超えた︖と評判 ◦ マルチモーダル（テキスト＋画像）の⼊⼒にも対応 • 埋め込み︓Embedシリーズ（Cohere社） ◦ ⽇本語含め、多⾔語対応のMultilingualモデルもあり • 画像⽣成︓Stable Diffusion XL（Stability AI社） ◦ ただしAmazonのTitan Image Generatorもそこそこ良い （コスパ⾼く、写実系の画像⽣成が優秀） 6/20 新モデル登場︕ Claude 3.5 Sonnet

12 KDDI Agile Development Center Corporation 実際に使ってみよう︕（GUI編） AWSマネコンから、 プレイグラウンドで 簡単に試せます

13 KDDI Agile Development Center Corporation 実際に使ってみよう︕（API編） 実際のアプリケーション開発では、BedrockのモデルをAPIから利⽤します ⽣成AIフレームワーク（LangChain）を利⽤ Python（AWS SDK）からテキスト⽣成

14 KDDI Agile Development Center Corporation AWSクラウド よくある⽣成AIアプリのアーキテクチャ例 Amazon Bedrock Amazon DynamoDB AWS Lambda Amazon S3 Amazon API Gateway ブラウザから Webチャット フロントエンド バックエンド 会話履歴 社内チャットボット の例 ⽣成AIモデル

15 KDDI Agile Development Center Corporation モデル以外にも、いろんな機能がある︕

16 KDDI Agile Development Center Corporation エンプラでも安⼼の付随機能 • メトリクス監視、ログ出⼒（CloudWatch） • 監査証跡保存（CloudTrail） • 閉域対応（PrivateLink） AWSクラウド Amazon Bedrock VPC AWS PrivateLink アプリケーション

17 KDDI Agile Development Center Corporation ⾊んな応⽤機能もあります（⼀例） • ナレッジベース＆エージェント ⾼度なAIアプリを、複雑なコードを書かずとも簡単に作れる • ファインチューニング＆事前学習 ⾃分のデータを⼤量に⾷わせてモデルを学習させられる • ガードレール AIがヤバいこと⾔わないように制御できる • モデル評価 どのモデルを使えばいいの!? を点数評価してくれる

18 KDDI Agile Development Center Corporation イチオシ機能① ナレッジベース for Amazon Bedrock AIに参考⽂献を検索させる「RAG（検索によって強化された⽣成）」を実現する機能 RAGが ないとき RAGが あるとき KAGってどんな会社︖ 家具屋さんです 参考⽂献 KAGってどんな会社︖ KDDIアジャイル開発 センター株式会社です 検索 事前学習 していない 質問は苦⼿

19 KDDI Agile Development Center Corporation AWSクラウド イチオシ機能① ナレッジベース for Amazon Bedrock ⽣成AIでみんなやる社内⽂書検索、RAGアーキテクチャがAWSマネコンから簡単に作れる︕ 社内⽂書 ナレッジベース for Bedrock 埋め込み モデル 回答⽣成 モデル OpenSearch Serverless ベクトル変換 結果取得 同期 質問 回答⽣成 有休の 申請⽅法は︖ ⾃然⾔語のテキストを ベクトルとして保存。 ➡ 意味検索ができる︕

20 KDDI Agile Development Center Corporation AWSクラウド イチオシ機能② エージェント for Amazon Bedrock ⽣成AIに細かく指⽰出すの⾯倒ですよね︖ ⼤きな⽬的を与えるとAI⾃ら⾏動計画を⽴てて、 • 必要あればLambda関数を実⾏したり… • 必要あればナレッジベースを⾒にいったり… そんな⾃律型AIエージェントを マネコンから簡単に作れる︕ ナレッジ ベース エージェント APIとして 呼び出せる 関数 基盤 モデル 外部 サービス など 今年の花⽕⼤会を調べて カレンダーに登録しといて︕

21 KDDI Agile Development Center Corporation 他のAWSサービスと組み合わせると⾯⽩い 例︓Step Functionsと組み合わせてAIアプリをローコード開発︕

22 KDDI Agile Development Center Corporation 注意点︓新機能は海外リージョンから順にリリースされる • 最新のモデルや機能は、東京に来るの待ってたら結構時間かかる ◦ Claudeなどの最新モデル来⽇までには数週間〜数ヶ⽉待つ必要あり ◦ ナレッジベースやエージェントは先⽇、ようやく東京リージョンにも対応 • ただ、ぶっちゃけここはそれほど障壁ではない。なぜなら… ◦ 海外のモデルだからレスポンスがめちゃ遅い︕みたいなことは全然ない ◦ リージョンまたいでも、AWSサービス間の通信はAWS設備内に閉じる ※Bedrock関係なく、もし個⼈情報を海外リージョン上に保管するような場合は データガバナンス⾯を社内相談しましょう ※社内ルールをちゃんと確認しましょう︕

23 KDDI Agile Development Center Corporation AWSには、Bedrock以外にも⽣成AIサービスがあります︕ japan.zdnet.com/article/35219048/ ⽣成AIをアプリとして 利⽤したい︕ ⽣成AIでアプリを 開発したい︕ ⽣成AIのモデルを 構築したい︕

24 KDDI Agile Development Center Corporation AWSには、Bedrock以外にも⽣成AIサービスがあります︕ ⽣成AIをアプリとして 利⽤したい︕ ⽣成AIでアプリを 開発したい︕ ⽣成AIのモデルを 構築したい︕ エンドユーザー向け （Amazon Qなど） アプリ開発者向け （Amazon Bedrock） 機械学習エンジニア向け （SageMakerシリーズなど）

25 KDDI Agile Development Center Corporation ⽣成AI領域、めっちゃ⾯⽩いんです︕

26 KDDI Agile Development Center Corporation ⽣成AI領域が⾯⽩いのはなぜ︖ • API叩くだけなので内製開発の⼊⾨にも持ってこい︕ • AIが賢いので、⼯夫次第ですぐ実⽤的なアプリに活かせる • 毎週アプデがたくさんあるので コミュニティで楽しく学べる 今朝のアプデ⾒た!? これ熱くね？？？ xxさんのブログが 分かりやすかったよ！

27 KDDI Agile Development Center Corporation そんなBedrockに⼊⾨しやすいよう、 最強の書籍を執筆しました︕

28 KDDI Agile Development Center Corporation 書籍「Amazon Bedrock ⽣成AIアプリ開発⼊⾨」（SBクリエイティブ刊） 先⽉6/26(⽔) 発売ホヤホヤの新刊︕ なんと発売2週間で重版となりました 😍

29 KDDI Agile Development Center Corporation Bedrockが⼤好きな3名が、懇切丁寧に執筆しました︕ 御⽥ 稔（みのるん） KDDIアジャイル開発センター株式会社 テックエバンジェリスト AWS Samurai 2023 熊⽥ 寛 株式会社Relic 先端テクノロジー研究開発リード 2024 Japan AWS All Certs 森⽥ 和明 富⼠ソフト株式会社 エバンジェリスト・アーキテクト 2024 Japan AWS Ambassador Qiitaの 「Bedrock」 カテゴリー 年間ランカー 3名が集結︕

30 KDDI Agile Development Center Corporation この本の対象読者 AWSで⽣成AIに⼊⾨してみたい⽅ 向けの本です︕ • 「⽣成AI流⾏ってるなぁ︕私もそろそろやってみるかぁ」な⽅ • 「他のクラウドで⽣成AIやってます。AWSだとどうなんだろう︖」な⽅ • 「エンジニアじゃないけど内製開発やってみたいなぁ」な⽅ AWSアカウントの作成から解説しており、 画⾯ショット付きで、すべての⼿順を分かりやすく掲載。 ⽣成AIやAWSが初めての⽅でも簡単に⼊⾨できます︕

31 KDDI Agile Development Center Corporation フルカラー ＆ 図解たっぷり︕ 書籍のメリットを 最⼤限に活かした紙⾯。 読んでいてワクワクする 書籍を⽬指しました︕

32 KDDI Agile Development Center Corporation ハンズオンてんこ盛り︕ コードはすべてGitHubで公開。 AWSアカウント作成から 丁寧に説明。 各章独⽴しているため、 好きな章・好きな順で つまみ⾷いもできます︕ ※AWS料⾦も⽐較的 少額で実施できます。

33 KDDI Agile Development Center Corporation 校了ギリギリ6/7までの最新情報を整理︕ GitHubで刊⾏後アプデもフォロー👍 ギリギリまで最新情報を 盛り込みました。 なんと、刊⾏後のアプデも GitHubで取り込み⽅法を 随時解説しています︕

34 KDDI Agile Development Center Corporation 各章の内容を簡単に紹介します︕

35 KDDI Agile Development Center Corporation 第1章 ⽣成AIの基本と動向 そもそも⽣成AIって 何だっけ︖から トレンドの流れを解説。

36 KDDI Agile Development Center Corporation 第2章 Amazon Bedrock⼊⾨ 様々な⽣成AIモデルの 特徴と出⼒例を紹介。 ユースケース別の 「迷ったらこれ︕」紹介も ハンズオンあり

37 KDDI Agile Development Center Corporation 第3章 ⽣成AIアプリの開発⼿法 プロンプトの基本テクや 主要な開発ツールを紹介。 LambdaとDynamoDBを 使ったハンズオンも︕ ハンズオンあり

38 KDDI Agile Development Center Corporation 第4章 社内⽂書検索RAGアプリを作ってみよう 今みんながやっている 「RAG」をやさしく解説︕ AWSで簡単に作れる ハンズオンもあります ハンズオンあり

39 KDDI Agile Development Center Corporation 第5章 便利な⾃律型AIエージェントを作ってみよう RAGの次のトレンド︕ AIが秘書のように ⾃動で仕事してくれる 「エージェント」を解説 ハンズオンあり

40 KDDI Agile Development Center Corporation 第6章 Bedrockの機能を使いこなそう ファインチューニングや 評価、ガードレールなど… 実は⾊々あるBedrockの 周辺機能を紹介︕

41 KDDI Agile Development Center Corporation 第7章 さまざまなAWSサービスとBedrockを連携しよう 運⽤やセキュリティ、 IaCなど… 多数あるAWSサービスと 組み合わせるコツを紹介

42 KDDI Agile Development Center Corporation 第8章 ⽣成AIアプリをローコードで開発しよう プログラミングなしでも GUIベースで作れる︕ ⾊々なテクを解説しつつ ⾃⼰紹介アプリを作ります ハンズオンあり

43 KDDI Agile Development Center Corporation 第9章 Bedrock以外の⽣成AI関連サービスの紹介 SageMakerなど、他の ⽣成AIサービスを紹介。 話題のAmazon Qの ハンズオンもあります ハンズオンあり

44 KDDI Agile Development Center Corporation 第10章 Bedrockの活⽤事例 著者陣の実案件における 活⽤事例を紹介︕

45 KDDI Agile Development Center Corporation 第11章 お勧めの最新情報キャッチアップ⽅法 ⽇々⼤量のアップデートを どうやって追えばいいの︖ おすすめの⽅法を紹介︕

46 KDDI Agile Development Center Corporation 付録 AWSアカウントやIAM、 Cloud9などの初期設定も しっかりフォロー︕ 初めての⽅も安⼼。

Be a Change Leader. アジャイルに⼒を与え 共に成⻑し続ける社会を創る