Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AWS の生成 AI への取り組みと IoT との付き合い方
Search
SORACOM
PRO
December 15, 2023
Technology
0
1.5k
AWS の生成 AI への取り組みと IoT との付き合い方
2023年12月15日開催『
JAWS-UG IoT専門支部「re:Invent振り返りとAmazon Monitron」
』で、ソラコム松下(max)が発表した資料です。
SORACOM
PRO
December 15, 2023
Tweet
Share
More Decks by SORACOM
See All by SORACOM
【SORACOM UG 四国】今だからこそ学ぶ!IoTの全体像と最新事例、生成AIの基礎
soracom
PRO
2
150
【SORACOM UG 東海】あらゆるモノがつながる社会へ、IoT と SORACOM
soracom
PRO
1
580
【SORACOM UG 広島】つながる社会へ!IoT プラットフォーム「SORACOM」
soracom
PRO
0
470
【SORACOM UG】SIM Deep Dive セキュアエレメント編
soracom
PRO
0
350
【SORACOM UG】(2024年度版) SIMってなんだ? ~セルラー通信がつながる仕組み、解説します~
soracom
PRO
0
340
【SORACOM UG ビギナーズ】つながる社会へ!IoTプラットフォーム「SORACOM」
soracom
PRO
1
63
社会のデジタル化を担う IoT とIoT プラットフォーム「SORACOM」
soracom
PRO
1
250
エバンジェリスト活動を7年やってきて見えてきた、コミュニティとエバンジェリストの関係
soracom
PRO
1
290
LLM + RAG を使った SORACOM Support Bot の裏側の歴史
soracom
PRO
1
830
Other Decks in Technology
See All in Technology
OPENLOGI Company Profile
hr01
0
46k
グイグイ系QAエンジニアでやっていくよ!
____rina____
0
770
OpenID Foundation updates
fujie
0
160
データ基盤を支える技術
chanyou0311
5
3k
汎用ポリシー言語Rego + OPAと認可・検証事例の紹介 / Introduction Rego & OPA for authorization and validation
mizutani
1
160
Deno で作る快適な “as Code” プラットフォーム – TSKaigi 2024
pizzacat83
4
310
本当のガバクラ基礎
toru_kubota
0
320
本番環境で Cloudflareを 使ってみた話
miu_crescent
2
130
Exadata Database Service on Dedicated Infrastructure(ExaDB-D) UI スクリーン・キャプチャ集
oracle4engineer
PRO
2
1.7k
Taking Flight with Tailwind CSS
opdavies
0
4.3k
大規模言語モデル (LLM)における低精度数値表現
pfn
PRO
3
840
サイボウズ 開発本部採用ピッチ / Cybozu Engineer Recruit
cybozuinsideout
PRO
9
37k
Featured
See All Featured
A better future with KSS
kneath
231
16k
Fantastic passwords and where to find them - at NoRuKo
philnash
39
2.5k
Rails Girls Zürich Keynote
gr2m
91
13k
Designing for Performance
lara
601
67k
Making Projects Easy
brettharned
109
5.5k
Building Effective Engineering Teams - LeadDev
addyosmani
33
1.9k
Put a Button on it: Removing Barriers to Going Fast.
kastner
58
3.1k
StorybookのUI Testing Handbookを読んだ
zakiyama
13
4.7k
YesSQL, Process and Tooling at Scale
rocio
165
13k
KATA
mclloyd
16
12k
The Cost Of JavaScript in 2023
addyosmani
21
4k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
352
28k
Transcript
AWS の生成 AI への取り組みと IoT との付き合い方 Dec. 15, 2023 JAWS-UG
IoT 専門支部 株式会社ソラコム テクノロジー・エバンジェリスト 松下 享平 (Max / @ma2shita)
株式会社ソラコム テクノロジー・エバンジェリスト 松下 享平 (まつした こうへい) "Max" • 静岡県民 🗻
新幹線通勤族 🚅 • 講演や執筆を中心に活動、登壇数600以上/累計 • 経歴: 東証二部ハードウェアメーカーで情シス、 EC 事業、IoT 事業開発を経て2017年より現職 • 好きな言葉「論よりコード」 • AWS ヒーロー (2020年受賞) • X(旧Twitter): @ma2shita • 好きな AWS サービス AWS IoT Core Amazon Ember Fonts Amazon EventBridge Pipes ← NEW!! • 最近 Pixel 8 に変えました ← NEW!! WiJG?, Public domain, via Wikimedia Commons
#jawsug #jawsug_iot https://twitter.com/jawsug_iot
現場ニーズに応えた、正統な進化 ― SORACOM 公式ブログで公開中 https://blog.soracom.com/ja-jp/2023/12/15/report-of-aws-reinvent-2023/
Reinventing … ~の再発明 https://www.youtube.com/watch?v=PMfn9_nTDbM&t=570s https://www.youtube.com/watch?v=PMfn9_nTDbM&t=700s https://www.youtube.com/watch?v=PMfn9_nTDbM&t=950s
https://www.youtube.com/watch?v=PMfn9_nTDbM&t=1188s
Reinventing with … “再発明” のための手段
https://www.youtube.com/watch?v=PMfn9_nTDbM&t=1188s
Reinventing with generative AI Reinventing with AWS
“AI” における生成 AI (GenAI) の位置づけ 生成 AI (Generative AI; GenAI)
• 機械学習(ML) における分類「識別モデル」と「生成モデル」のうち、生成に着目した呼称。 • 実装例には、画像を生成するモデルや、自然言語を扱う大規模言語モデル(LLM)がある。 出典: 西脇 文彦. “生成AIが実現している機能の6類型”. DIAMOND ハーバード・ビジネス・レビュー. 2023-06-09. https://dhbr.diamond.jp/articles/-/9676, (参照 2023-08-10). 従来の ML や深層学習(DL)と異なる点 ➢ これまでは「学習」と「推論(生成)」の2つの作業が 不可欠。特に学習は専門知識や費用が必要だった。 ➢ 生成 AI は学習済みモデル(基盤モデル)が提供され、 利用者による学習作業が不要で、成果が得られる。
None
基盤モデル = “常識” 株式会社スマートドライブ主催「Mobility Transformation 2023」(9/23) より 基盤モデルとは 大量かつ多様なデータで訓練され、 多様な用途におけるタスクに適応
できるモデル※1 ※1 Stanford University Human-Centered Artificial Intelligence, Machine Learning Reflections on Foundation Models 人間の経験や知識の如く 「常識を獲得」
None
Amazon Bedrock ― 基盤モデル選択の自由 https://www.youtube.com/watch?v=8clH7cbnIQw&t=1390s
AWS の「Generative AI Stack」 https://www.youtube.com/watch?v=PMfn9_nTDbM&t=6470s 基盤モデル強化のための「インフラ」 基盤モデルやLLMで構築するための「ツール」 ➢ Amazon Bedrock
基盤モデルを活かすための「アプリケーション」 ➢ Amazon Q、Amazon CodeWhisperer
https://aws.amazon.com/jp/blogs/news/aws-reinvent-recap-aiml-seminar-for-biopharma/ AWS の「Stack」戦略の読み解き方 “Stack” で「言語化」 そこから広げていく 新たなサービス予想や 要望の通り方の見通しが立つ https://docs.aws.amazon.com/ja_jp/iot/latest/developerguide/aws-iot-how-it-works.html
生成 AI との付き合い方 Copilot ー よき友 Whisper 等 ChatGPT 以外のプロダクト利用、
GPTs(GPT Builder)、RAG 等 Function Calling、Assistant API Azure OpenAI Service、Amazon Bedrock 等 私たちの生産性を上げる Embed ー 部品 製品に革新を組み込む
Copilot ― よき友 開発や業務支援に LLM を用いる ➢ ドキュメント要約やレビュー • 途中参加PJに対する議事録要約
や検索、専門用語の読み替えを RAG(検索拡張生成) で実現する ➢ コードや回路の設計、生成 ➢ デバッグ計画のドラフト ※ RAG: Retrieval Augmented Generation; 検索拡張生成 ※ プロンプトや取り込ませるデータがどのように取り扱われるかは、規約や構成を確認する必要あり
Copilot ― よき友 開発や業務支援に LLM を用いる AWS IoT TwinMaker で
故障個所を明確化 Amazon Q で行うべき作業の提示や、 問い合わせ回答を自動化 ※ EXPO 内 AWS “Industrial Zone” デモ
ビジネスで用いられるどのテクノロジーにも当てはまる第一の法則は、 効率の良い業務を自動化すれば、効率がさらに良くなるということだ。 第二の法則は、効率の悪い業務を自動化すれば、さらに効率が悪くなる ということだ ― 『ビル・ゲイツ 未来を語る』 ― 外山, 健.
(2016). テクノロジーは貧困を救わない. 日本: みすず書房. ※下線と太字は筆者加筆
None
IoT の「つなぐ」を簡単に You Create. We Connect.