Upgrade to Pro — share decks privately, control downloads, hide ads and more …

AWS の生成 AI への取り組みと IoT との付き合い方

Avatar for SORACOM SORACOM PRO
December 15, 2023

AWS の生成 AI への取り組みと IoT との付き合い方

2023年12月15日開催『JAWS-UG IoT専門支部「re:Invent振り返りとAmazon Monitron」』で、ソラコム松下(max)が発表した資料です。

Avatar for SORACOM

SORACOM PRO

December 15, 2023
Tweet

More Decks by SORACOM

Other Decks in Technology

Transcript

  1. AWS の生成 AI への取り組みと IoT との付き合い方 Dec. 15, 2023 JAWS-UG

    IoT 専門支部 株式会社ソラコム テクノロジー・エバンジェリスト 松下 享平 (Max / @ma2shita)
  2. 株式会社ソラコム テクノロジー・エバンジェリスト 松下 享平 (まつした こうへい) "Max" • 静岡県民 🗻

    新幹線通勤族 🚅 • 講演や執筆を中心に活動、登壇数600以上/累計 • 経歴: 東証二部ハードウェアメーカーで情シス、 EC 事業、IoT 事業開発を経て2017年より現職 • 好きな言葉「論よりコード」 • AWS ヒーロー (2020年受賞) • X(旧Twitter): @ma2shita • 好きな AWS サービス AWS IoT Core Amazon Ember Fonts Amazon EventBridge Pipes ← NEW!! • 最近 Pixel 8 に変えました ← NEW!! WiJG?, Public domain, via Wikimedia Commons
  3. “AI” における生成 AI (GenAI) の位置づけ 生成 AI (Generative AI; GenAI)

    • 機械学習(ML) における分類「識別モデル」と「生成モデル」のうち、生成に着目した呼称。 • 実装例には、画像を生成するモデルや、自然言語を扱う大規模言語モデル(LLM)がある。 出典: 西脇 文彦. “生成AIが実現している機能の6類型”. DIAMOND ハーバード・ビジネス・レビュー. 2023-06-09. https://dhbr.diamond.jp/articles/-/9676, (参照 2023-08-10). 従来の ML や深層学習(DL)と異なる点 ➢ これまでは「学習」と「推論(生成)」の2つの作業が 不可欠。特に学習は専門知識や費用が必要だった。 ➢ 生成 AI は学習済みモデル(基盤モデル)が提供され、 利用者による学習作業が不要で、成果が得られる。
  4. 基盤モデル = “常識” 株式会社スマートドライブ主催「Mobility Transformation 2023」(9/23) より 基盤モデルとは 大量かつ多様なデータで訓練され、 多様な用途におけるタスクに適応

    できるモデル※1 ※1 Stanford University Human-Centered Artificial Intelligence, Machine Learning Reflections on Foundation Models 人間の経験や知識の如く 「常識を獲得」
  5. 生成 AI との付き合い方 Copilot ー よき友 Whisper 等 ChatGPT 以外のプロダクト利用、

    GPTs(GPT Builder)、RAG 等 Function Calling、Assistant API Azure OpenAI Service、Amazon Bedrock 等 私たちの生産性を上げる Embed ー 部品 製品に革新を組み込む
  6. Copilot ― よき友 開発や業務支援に LLM を用いる ➢ ドキュメント要約やレビュー • 途中参加PJに対する議事録要約

    や検索、専門用語の読み替えを RAG(検索拡張生成) で実現する ➢ コードや回路の設計、生成 ➢ デバッグ計画のドラフト ※ RAG: Retrieval Augmented Generation; 検索拡張生成 ※ プロンプトや取り込ませるデータがどのように取り扱われるかは、規約や構成を確認する必要あり
  7. Copilot ― よき友 開発や業務支援に LLM を用いる AWS IoT TwinMaker で

    故障個所を明確化 Amazon Q で行うべき作業の提示や、 問い合わせ回答を自動化 ※ EXPO 内 AWS “Industrial Zone” デモ