「genai-quickstart-pocs」を使ってお手軽に生成AIのPoCを始めよう！

Slide 1

Slide 1 text

前野佑宜アイレット株式会社 DX開発事業部モダンエンジニアリングセクションビジネスデザインG 「genai-quickstart-pocs」を使ってお手軽に生成 AIのPoC を始めよう！ JAWS-UG朝会 #64

Slide 2

Slide 2 text

はじめに〜本セッションでお伝えすること /しないこと〜本セッションでお伝えしないこと ● 生成AIを活用したPoCの成功の秘訣 ○ 秘訣を語れるほど経験豊富ではありません。 ● 実装部分の詳細な解説 ● 生成AIを活用したPoCを、効率的に進めるための一つの手段 ○ 自身の実体験ベースでお伝えさせていただく本セッションでお伝えすること

Slide 3

Slide 3 text

01 アジェンダ自己紹介 02 生成AIのPoCを取り巻く現状 03 「genai-quickstart-pocs」のご紹介 04 「genai-quickstart-pocs」をカスタマイズ 05 まとめ

Slide 4

Slide 4 text

01 アジェンダ自己紹介 02 生成AIのPoCを取り巻く現状 03 「genai-quickstart-pocs」のご紹介 04 「genai-quickstart-pocs」をカスタマイズ 05 まとめ

Slide 5

Slide 5 text

前野佑宜 2023年新卒入社/入社2年目 2024 Japan AWS Jr. Champions選出アイレット株式会社ま　え　のゆ　う　き経歴 DX開発事業部/モダンエンジニアリングS/ビジネスデザインG 担当業務 Python/Laravelを使ったバックエンド開発を主に担当現在はAWSの生成AIサービス/RAGを組み合わせたPoC（概念実証）に従事関心のある領域 AWS× AI/MLの領域（Amazon Bedrock/ Amazon SageMakerなど）

Slide 6

Slide 6 text

01 アジェンダ自己紹介 02 生成AIのPoCを取り巻く現状 03 「genai-quickstart-pocs」のご紹介 04 「genai-quickstart-pocs」をカスタマイズ 05 まとめ

Slide 7

Slide 7 text

02.生成AIのPoCを取り巻く現状企業の生成AI導入に伴い、PoCを実施するケースは年々増えている生成AI活用のニーズ増 →PoCを実施するケースも増出典：IPA「DX動向2024」

Slide 8

Slide 8 text

02.生成AIのPoCを取り巻く現状一般的なPoC実施のフローゴールのすり合わせ・検証の方法検討・検証実施・「何」を検証するか・「何」がゴールかのすり合わせ・検証結果をまとめる・次フェーズに進む or 実用化の検討検証結果の分析

Slide 9

Slide 9 text

02.生成AIのPoCを取り巻く現状「検証」フェーズにおける考慮事項ゴールのすり合わせ・検証の方法検討・検証実施・「何」を検証するか・「何」がゴールかのすり合わせ・検証結果をまとめる・次フェーズに進む or 実用化の検討検証結果の分析「スケジュールも限られているので   効率的に実施したい」   「どうRAGの精度を評価するべきか」   「どう検証結果をまとめるべきか」   「そもそも検証の土台の準備   もしなきゃ・・」  例）RAGを使った社内文書検索ソリューションの PoC 今回は「検証」にフォーカス

Slide 10

Slide 10 text

01 アジェンダ自己紹介 02 生成AIのPoCを取り巻く現状 03 「genai-quickstart-pocs」のご紹介 04 「genai-quickstart-pocs」をカスタマイズ 05 まとめ

Slide 11

Slide 11 text

03.「genai-quickstart-pocs」のご紹介「genai-quickstart-pocs」とは生成AIを使ったアプリケーションを簡単に作成し試すことができるAWSのOSS .NET/Pythonでのサンプルが提供 .NET→5種類 Python→37種類フロントエンドは  Streamlitを採用 

Slide 12

Slide 12 text

03.「genai-quickstart-pocs」のご紹介簡単3ステップで試すことができる 1 2 3 https://github.com/aws-samples/genai-quickstart-pocs.git をクローン requirements.txt記載のライブラリインストール `streamlit run app.py` を実行

Slide 13

Slide 13 text

03.「genai-quickstart-pocs」のご紹介プロジェクト構成はシンプル！

Slide 14

Slide 14 text

03.「genai-quickstart-pocs」のご紹介リポジトリの中身をいくつかご紹介① Amazon Bedrock Summarization of Long Documents POC 長い文章の要約

Slide 15

Slide 15 text

03.「genai-quickstart-pocs」のご紹介リポジトリの中身をいくつかご紹介② amazon-bedrock-claude3-image-analysis-poc 画像分析

Slide 16

Slide 16 text

03.「genai-quickstart-pocs」のご紹介リポジトリの中身をいくつかご紹介③ amazon-bedrock-rag-kendra-poc RAG検索（検索拡張生成）

Slide 17

Slide 17 text

01 アジェンダ自己紹介 02 生成AIのPoCを取り巻く現状 03 「genai-quickstart-pocs」のご紹介 04 「genai-quickstart-pocs」をカスタマイズ 05 まとめ

Slide 18

Slide 18 text

04.「genai-quickstart-pocs」をカスタマイズ amazon-bedrock-rag-kendra-pocの機能をカスタマイズ！ RAG+Kendra検索+マルチモーダル会話履歴の保持 Streamlitの  session_stateと  Bedrockの converseAPI で実装 

Slide 19

Slide 19 text

04.「genai-quickstart-pocs」をカスタマイズこんなユースケースにピッタリ！ LLMと組み合わせた検索精度を確かめたい画像→文字書き起こしの精度も確かめたい Kendra単体での検索精度も確かめたい

Slide 20

Slide 20 text

アーキテクチャプルダウンで機能切り替え

Slide 21

Slide 21 text

実行結果〜 RAG検索〜

Slide 22

Slide 22 text

実行結果〜 Kendra検索〜

Slide 23

Slide 23 text

実行結果〜マルチモーダル〜

Slide 24

Slide 24 text

04.「genai-quickstart-pocs」をカスタマイズ〜おまけ〜先日のre:invent 2024で紹介された Kendra GenAI Indexも組み込んでみた・Kendra GenAI Index ・Bedrock エージェントナレッジベースを使用詳細は弊社Advent Calendar 20日目の記事で！所要時間 2時間くらいで完成！

Slide 25

Slide 25 text

01 アジェンダ自己紹介 02 生成AIのPoCを取り巻く現状 03 「genai-quickstart-pocs」のご紹介 04 「genai-quickstart-pocs」をカスタマイズ 05 まとめ

Slide 26

Slide 26 text

05.まとめ AWSのOSSを活用し、生成 AIのPoCの効率化！ベースとなるものは OSSを採用行う検証に応じてカスタマイズベース=OSS ベース=OSS カスタマイズ部分

Slide 27

Slide 27 text

05.まとめ genai-quickstart-pocsの使い方は十人十色！ ①事前に検証用のテンプレを作っておく ②アップデートが来たらカスタマイズ＋すぐ試す！例えばこんな使い方 →アイデアをすぐ形にできる！！

Slide 28

Slide 28 text

参照文献 • 統計資料 ○ IPA 「DX動向2024」 • GitHubリポジトリ ○ genai-quickstart-pocs • 関連ブログ ○ AWSの「genai-quickstart-pocs」を使ってお手軽に生成 AIのPoCを始めよう！ | iret.media ○ Streamlit×Bedrock×Kendraで作る! 多機能チャットボット - Qiita ○ re:Invent2024で新たに発表されたAmazon Kendraの新機能「GenAI index」を試してみる！  ■ 12/20 アドカレで公開予定

Slide 29

Slide 29 text

ご清聴ありがとうございました