Upgrade to Pro — share decks privately, control downloads, hide ads and more …

第118回 雲勉【オンライン】AWS・Google Cloud 生成AI特集

第118回 雲勉【オンライン】AWS・Google Cloud 生成AI特集

下記、勉強会での資料です。
https://youtu.be/msXem-glHpo

iret.kumoben

November 02, 2023
Tweet

More Decks by iret.kumoben

Other Decks in Technology

Transcript

  1. 本日やること 2 • 自己紹介 • AWS ◦ LINE API/Amazon Bedrock/Claude2を組み合わせたLINE

    bot • Google Cloud ◦ LINE API/Vertex AI/PaLM2を組み合わせたLINE bot • まとめ
  2. 自己紹介 3 Amazon ベストセラー獲得 Kento.Yamada (github,Twitter,zenn,Qiita@ymd65536) 経歴 • 2022年10月~現在 アイレット株式会社

    ◦ クラウドインテグレーション事業部 MSP開発セクション(東京配属) • (2016年~2022年9月)某通信キャリアの子会社 ◦ ITスペシャリスト(エンジニア)
  3. 利用技術 • LINE API ◦ Messaging API • AWS ◦

    AWS Lambda ◦ Amazon Bedrock(Claude2を利用) 6
  4. Amazon Bedrockとは 9 基盤モデルを使用して生成系 AI アプリケーションを 構築およびスケーリングする最も簡単な方法。 主な特徴 • 大手

    AI 企業が提供する高性能な基盤モデルを 単一の API で選択できるフルマネージド型サービス • サーバレス 参考:https://aws.amazon.com/jp/bedrock/ Amazon Bedrock
  5. Lambdaで実行するPythonスクリプトの仕様 14 event_type is Message message _type is text Start

    message _type is image message _type is sticker End Bedrock APIの実行 画像には対応していな い旨を表示 スタンプには対応して いない旨を表示 実行結果を取得 True True True False message_typeを返す True False False False
  6. ここまでのまとめ • Amazon Bedrockを使うとサーバレスにAIをアプリケーションに実装できる • AWS SDK for PythonからAPIを実行する •

    LambdaでAPIを実行する時はレイヤーを組む必要がある ※現時点ではLambdaに実装されているバージョンが1.27.1であり、bedrockの APIに対応していない 15
  7. 利用技術 • LINE API ◦ Messaging API • Google Cloud

    ◦ Cloud Run ◦ Artifact Registry ◦ Vertex AI(PaLM2を利用) 18
  8. 全体構成 19 Artifact Registry Cloud Run Vertex AI イメージをpush 2.コンテナイメージをpull

    1.Webhookによる接続 5.LINEアプリ上で結果を閲覧 3. chat-bisonのAPIを実行 4.結果を取得
  9. Artifact Registryとは 21 次世代の Container Registry 特徴 • パッケージと Docker

    コンテナイメージを1 か所で保管し、管理 できる • CloudBuildのアーティファクトを保存する場所として利用できる Caution 現在はContainer Registryではなく、Artifact Registryが推奨されてい ます! 今回はCloud Runに使うコンテナのイメージを保存するために利用 Artifact Registryの料金:https://cloud.google.com/artifact-registry/pricing?hl=ja
  10. PaLM2とは • Google が開発した最新のLLMであり、PaLMの後継 • 4種類のモデル:Gecko、Otter、Bison、Unicorn • 25 を超える Google

    の製品と機能に搭載 23 引用元:PaLM 2 のご紹介 https://japan.googleblog.com/2023/05/palm-2.html
  11. Vertex AI における生成 AI サポートの料金 24 Vertex AI における生成 AI

    サポートの料金:https://cloud.google.com/vertex-ai/pricing?hl=ja 1,000文字あたり、$0.0005