AWS の生成 AI への取り組みと IoT との付き合い方

2023年12月15日開催『JAWS-UG IoT専門支部「re:Invent振り返りとAmazon Monitron」』で、ソラコム松下(max)が発表した資料です。

Transcript

1. AWS の生成 AI への取り組みと IoT との付き合い方 Dec. 15, 2023 JAWS-UG IoT 専門支部 株式会社ソラコム テクノロジー・エバンジェリスト 松下 享平 (Max / @ma2shita)
2. 株式会社ソラコム テクノロジー・エバンジェリスト 松下 享平 (まつした こうへい) "Max" • 静岡県民 🗻 新幹線通勤族 🚅 • 講演や執筆を中心に活動、登壇数600以上/累計 • 経歴: 東証二部ハードウェアメーカーで情シス、 EC 事業、IoT 事業開発を経て2017年より現職 • 好きな言葉「論よりコード」 • AWS ヒーロー (2020年受賞) • X(旧Twitter): @ma2shita • 好きな AWS サービス AWS IoT Core Amazon Ember Fonts Amazon EventBridge Pipes ← NEW!! • 最近 Pixel 8 に変えました ← NEW!! WiJG?, Public domain, via Wikimedia Commons
3. #jawsug #jawsug_iot https://twitter.com/jawsug_iot
4. 現場ニーズに応えた、正統な進化 ― SORACOM 公式ブログで公開中 https://blog.soracom.com/ja-jp/2023/12/15/report-of-aws-reinvent-2023/
5. Reinventing … ～の再発明 https://www.youtube.com/watch?v=PMfn9_nTDbM&t=570s https://www.youtube.com/watch?v=PMfn9_nTDbM&t=700s https://www.youtube.com/watch?v=PMfn9_nTDbM&t=950s
6. https://www.youtube.com/watch?v=PMfn9_nTDbM&t=1188s
7. Reinventing with … “再発明” のための手段
8. https://www.youtube.com/watch?v=PMfn9_nTDbM&t=1188s
9. Reinventing with generative AI Reinventing with AWS
10. “AI” における生成 AI (GenAI) の位置づけ 生成 AI (Generative AI; GenAI) • 機械学習(ML) における分類「識別モデル」と「生成モデル」のうち、生成に着目した呼称。 • 実装例には、画像を生成するモデルや、自然言語を扱う大規模言語モデル(LLM)がある。 出典: 西脇 文彦. “生成AIが実現している機能の6類型”. DIAMOND ハーバード・ビジネス・レビュー. 2023-06-09. https://dhbr.diamond.jp/articles/-/9676, (参照 2023-08-10). 従来の ML や深層学習(DL)と異なる点 ➢ これまでは「学習」と「推論(生成)」の２つの作業が 不可欠。特に学習は専門知識や費用が必要だった。 ➢ 生成 AI は学習済みモデル(基盤モデル)が提供され、 利用者による学習作業が不要で、成果が得られる。
12. 基盤モデル = “常識” 株式会社スマートドライブ主催「Mobility Transformation 2023」(9/23) より 基盤モデルとは 大量かつ多様なデータで訓練され、 多様な用途におけるタスクに適応 できるモデル※1 ※1 Stanford University Human-Centered Artificial Intelligence, Machine Learning Reflections on Foundation Models 人間の経験や知識の如く 「常識を獲得」
14. Amazon Bedrock ― 基盤モデル選択の自由 https://www.youtube.com/watch?v=8clH7cbnIQw&t=1390s
15. AWS の「Generative AI Stack」 https://www.youtube.com/watch?v=PMfn9_nTDbM&t=6470s 基盤モデル強化のための「インフラ」 基盤モデルやLLMで構築するための「ツール」 ➢ Amazon Bedrock 基盤モデルを活かすための「アプリケーション」 ➢ Amazon Q、Amazon CodeWhisperer
16. https://aws.amazon.com/jp/blogs/news/aws-reinvent-recap-aiml-seminar-for-biopharma/ AWS の「Stack」戦略の読み解き方 “Stack” で「言語化」 そこから広げていく 新たなサービス予想や 要望の通り方の見通しが立つ https://docs.aws.amazon.com/ja_jp/iot/latest/developerguide/aws-iot-how-it-works.html
17. 生成 AI との付き合い方 Copilot ー よき友 Whisper 等 ChatGPT 以外のプロダクト利用、 GPTs(GPT Builder)、RAG 等 Function Calling、Assistant API Azure OpenAI Service、Amazon Bedrock 等 私たちの生産性を上げる Embed ー 部品 製品に革新を組み込む
18. Copilot ― よき友 開発や業務支援に LLM を用いる ➢ ドキュメント要約やレビュー • 途中参加PJに対する議事録要約 や検索、専門用語の読み替えを RAG(検索拡張生成) で実現する ➢ コードや回路の設計、生成 ➢ デバッグ計画のドラフト ※ RAG: Retrieval Augmented Generation; 検索拡張生成 ※ プロンプトや取り込ませるデータがどのように取り扱われるかは、規約や構成を確認する必要あり
19. Copilot ― よき友 開発や業務支援に LLM を用いる AWS IoT TwinMaker で 故障個所を明確化 Amazon Q で行うべき作業の提示や、 問い合わせ回答を自動化 ※ EXPO 内 AWS “Industrial Zone” デモ
20. ビジネスで用いられるどのテクノロジーにも当てはまる第一の法則は、 効率の良い業務を自動化すれば、効率がさらに良くなるということだ。 第二の法則は、効率の悪い業務を自動化すれば、さらに効率が悪くなる ということだ ― 『ビル・ゲイツ 未来を語る』 ― 外山, 健. (2016). テクノロジーは貧困を救わない. 日本: みすず書房. ※下線と太字は筆者加筆
22. IoT の「つなぐ」を簡単に You Create. We Connect.