AWS で加速する製造業への生成 AI 活用

2024/12/17 開催の製造業向け生成AIセミナーにてご説明した資料です。
https://web.cvent.com/event/5e3f6c37-f3df-4ab0-bc5c-0c6e8c45fdb0/summary

Transcript

1. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS で加速する 製造業への⽣成 AI 活⽤ Ryota Sawa Amazon Web Services Japan G.K. 1 製造業向け生成 AI セミナー
2. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ⾃⼰紹介 澤 亮太 アマゾンウェブサービスジャパン合同会社 技術統括本部 エンタープライズ技術本部 ストラテジック製造グループ ソリューションアーキテクト ・主に製造業のお客様を担当 ・前職では、主に Computer Vision 領域での Deep Learningを⽤いたアルゴリズム開発、 AI⼈材の育成などを推進 2
3. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. アジェンダ • AWS が取り組む⽣成 AI について • 製造業での⽣成 AI ユースケースとは • AWS re:Invent 2024 のイベント速報 3
4. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS が取り組む⽣成 AI について 4
5. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon は 25 年以上にわたって AI に投資
6. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS の⽣成 AI への投資 6 シリコンイノベーション ⽣成 AI のためのAWS 独⾃のチップ AWS Trainium と AWS Inferentia ⽣成 AI サービス Amazon Bedrock, Amazon Q のように、 ⽣成 AI を簡単かつ安全に 利⽤するためのサービスを提供 LLM* 開発⽀援プログラムや、 Generative AI Innovation Center など幅広い⽀援を提供 トレーニング ⽣成 AI ⽀援プログラム • ⽣成 AI を含む 70 以上の ⽇本語の AI/ML デジタルコース • ビジネスリーダーから開発者まで 活⽤できる多様なコンテンツ
7. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GPUs Inferentia Trainium SageMaker EC2 Capacity Blocks Neuron UltraClusters EFA Nitro Amazon Q Business Amazon Q in QuickSight Amazon Q in Connect Amazon Q Developer Amazon Q in AWS Supply Chain Amazon Bedrock Guardrails Agents Customization Capabilities Studio Broadest selection of models ⽣成 AI スタック
8. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. コストパフォーマンスを ⾼める専⽤チップ AWS 推論に要するコストを最⼤ 40% 削減 ワット当たりの性能を最⼤ 50% 向上 AWS モデルトレーニングに要する コストを最⼤ 50% 削減 消費電⼒を最⼤ 25% 削減
9. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ⽇本発の LLM 開発を⽀援
10. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS Trainium、Inferentia を活⽤中のお客様 10 Anyscale ⽣成AI実⽤化推進プログラムを通して、ご活⽤されるお客様が増加中
11. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. モデル選択肢 11 AMAZON NOVA AMAZON TITAN JAMBA CLAUDE COMMAND EMBED RERANK LLAMA LUMA RAY 2 長いコンテキス トでの効果的な 推論と迅速な分 析 スケーラブルな 高品質 AI 画像 生成 高度な画像・ 言語推論 知識の要約 エキスパート エージェント コード補完 テキストと画像 からの高品質な 動画生成 大規模企業向け ソフトウェアエ ンジニアリング AI STABLE DIFFUSION STABLE IMAGE MISTRAL MIXTRAL MALIBU POINT 低遅延のマルチ モーダルインテリ ジェンス エージェントと RAG アプリケー ション 高品質な画像・動 画生成 高度な推論と コーディング コンピュータ使 用スキルを含む マルチモーダル検 索 多言語知識エー ジェントの高度な 検索機能 Coming Soon Coming Soon Amazon 単⼀の API で様々な基盤モデルを選択可能 ⽣成 AI アプリケーション開発に必要な機能を幅広く提供
12. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Claude 3 Llama 3 Titan Image Generator Input Output … ⽣成 AI 開発に重要な機能を網羅的に提供 ベクトル DB Agent Custom Model 外部 API Ingest Documents Inference input data Custom Model File (in Amazon S3) 12 モデル評価 モデル運⽤ モデルカスタム アプリ開発 プロンプト開発 ガード レール
13. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 万全なセキュリティ︓Amazon Bedrock におけるデータの保護 13 Bedrock への⼊出⼒は 発⽣したリージョンに留まり 顧客ごとに管理される データは常に暗号化される (AES-256 / TLS1.2) 顧客のデータは Amazon およびサードパーティーの モデルの学習に使⽤されない
14. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. クラウドサービスプロバイダー初となる ISO/IEC 42001 取得 14 ISO/IEC 42001 認証を取得したということは、 AWS が AI の開発、展開、運⽤に関連するリスクと機会を管理するために 積極的な措置を講じていることを、独⽴した第三者が検証したことを意味する
15. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ビジネス価値を⽣む ユースケースを ⾒つける ユースケースに 合わせて適切な モデルを選択する 安全な AI 製品を 実現する より⾼い価値を 実現するための ⼯夫を凝らす ⾃社アプリに ⽣成 AI を組み込み 運⽤する ⽣成 AI ジャーニー
16. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
17. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 製造業での⽣成 AI ユースケースとは 17
18. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ⽣成 AI に任せて⽣産性が⾼まったユースケース 専⾨的応対⽀援 営業⽀援 データレビュー データ⼊⼒⽀援 検索体験向上 コンテンツ作成 請求書や決算書などの帳票や議事 録⾳声など、これまで⼈の⼿で ⾏っていたテキスト化や、⾳声の ⽂字起こしなどを、効率化する 専⾨的な製品知識や業務知識、経 験知に基づく応対を知識データ ベースを基に⽀援。未熟練者でも 対応が可能になるよう⽀援する 提案機会の特定、商談内容の分析、 営業⽇報の作成や解析など、 営業活動の機会創出と学びを深め ることで、効率的かつ効果的な商 談を⽀援する ⽂書や画像などのコンテンツが、 ガイドラインや規約に沿っていな いか、異常がないかなど、 レビューや監視業務を効率化する ユーザーが興味を惹く商品説明⽂ の⽣成や、検索したキーワードに 関連するフレーズを追加するなど、 ユーザー体験を向上させる 商品画像や背景の⽣成や、記事な どのコンテンツ⽣成、コード⽣成 など、様々なコンテンツ⽣成を効 率化する システム開発⽀援 システムの要件定義・開発・運⽤、 サポートなどシステム開発全体に ⽣成 AI を適⽤し開発⽣産性を向上 させる
19. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ⽣成 AI に任せて⽣産性が⾼まったユースケース 専⾨的応対⽀援 専⾨的な製品知識や業務知識、経 験知に基づく応対を知識データ ベースを基に⽀援。未熟練者でも 対応が可能になるよう⽀援する 専⾨知識に基づく応対を 50~90% の精度で実現 ⽇本製鋼所 ( 営業応対 ) 樹脂機械向けの消耗部品の受注に伴う顧客応対に⽣成 AI を適⽤。営業が 問合せ内容を転記して検索・回答案を参照でき、専⾨知識が必要な質問 に対し 80% 以上の精度であることを確認。構築期間はわずか 2 ヵ⽉。 JDSC ( 調査回答 ) 契約書、技術情報、規制情報、 FAQ やメール等、様々な情報からなる約 1 万の専⾨性の⾼いドキュメントの横断的検索と回答に⽣成 AI を適⽤。 15 年以上の経験者が 1 時間かけていた回答を 3 年⽬でも 1~2 分へ短縮。 ⽇⽴製作所 ( システム障害対応 ) 統合システム運⽤監視ソリューション JP1 に検知した IT システム障害 に対し管理画⾯から対処⽅法を問い合わせできるように。マニュアルに 基づく回答⽣成で 9 割以上のアラートで正しい回答ができることを確認。 サイバーエージェント ( 開発⽀援 ) セキュリティに関する 60~80 件/⽉の問い合わせ回答を⾏うチームで、 専⾨領域の属⼈化が課題に。回答に⽣成 AI を適⽤し専⾨外でも回答可能 に。
20. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 生 成 A I を 活 用 し た ソ フ ト ウ ェ ア 開 発 の 効 率 化 20 三菱電機様: ⽣成AIによる組込ソフトウェア開発の効率化 • AWS ⽣成 AI ディスカバリーワークショップを活⽤し、ユースケースを発掘 現場業務と課題の確認 → ユースケースアイデア → ユースケースの評価 • 仕様書の調査、修正対象の列挙、コード確認による影響範囲の特定を 1st ユースケースに • 開発ドキュメント検索精度向上のため、過去何⼗年と溜まったドキュメントに対するメタデータ付与に ⽣成AI (Claude 3 Sonnet)を活⽤
21. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 溶 接 、 塗 装 、 外 観 検 査 を 行 う 生 産 ラ イ ン を デ ジ タ ル 化 ・ 生 成 A I を 用 い た 問 題 解 決 チ ャ ッ ト や 装 置 マ ニ ュ ア ル の 読 み 取 り 21 e-Bike︓スマートマニュファクチャリング ⽣成AIを活⽤した問題解決チャット アラームと、⽣成AIを活⽤した問題解決のためのチャット画⾯が表⽰。 ロボットハンドでエラーが発⽣した際に、⽣成AIを使⽤してオペレータ に対して原因や対応⽅法を指⽰
22. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 溶 接 、 塗 装 、 外 観 検 査 を 行 う 生 産 ラ イ ン を デ ジ タ ル 化 ・ 生 成 A I を 用 い た 問 題 解 決 チ ャ ッ ト や 装 置 マ ニ ュ ア ル の 読 み 取 り 22 e-Bike︓スマートマニュファクチャリング 装置マニュアルの読取り フィッシュボーンチャートの読取り ⽣産と資産の最適化エリアに設置された⽣成AIのキオスクでは、e-Bikeデモで紹介した⽣産ラインのア ラートの原因究明の仕組みについて解説していました。 ロボットアームのマニュアル群を検索し、その結果をAmazon Bedrock（基盤モデルとして Claude 3 Sonnetを使⽤）でサマリして表⽰、オペレータとコミュニケーションできるように実装
23. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ⽣成 AI に任せて⽣産性が⾼まったユースケース データレビュー ⽂書や画像などのコンテンツが、 ガイドラインや規約に沿っていな いか、異常がないかなど、 レビューや監視業務を効率化する 社内規定やガイドラインに基づくチェックを効率化 FleGrowth ( 監査対応トレーニング ) 各事業部で年に⼀度 ISMS（情報セキュリティマネジメントシステム）認 証の維持審査を外部審査機関から受ける。監査では 100 以上の社内規定 を読み込む必要があり、万⼀回答できず指摘事項があった場合対応策の ⽴案と施⾏に膨⼤な時間がかかる。⽣成 AI により社内規定に基づく監査 の想定質問を作成することで対応時間を 90% 削減し会社全体で審査に よる指摘事項を 3 分の 1 に、指摘事項への対応にかける時間を 10 分の 1 まで削減。 野村ホールディングス ( ガイドラインに基づく審査 ) ⾦融商品に関する説明資料の審査が⽉に数百件あるが、審査には多様な ⾦融商品と社内外の規制・ルールを理解する社員の知⾒と能⼒が必要。 業務効率化効果の PoC を通じ、⽣成 AI による実現性を確認。
24. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. お 客 様 プ ロ フ ィ ー ル “ ビジネスの課題 ソリューション 導⼊効果 © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. • カメラ付き照明からの画像を低価格 な AWS サーバレスサービスに連携、 Amazon Bedrock で判定を⾏う • ⽣成 AI の画像認識により、ユーザー の要望にあった事象を判別 • 安価な Claude3 Haiku で常時判別を ⾏い最終判断は⾼性能な Claude3 Sonnet と使い分けることで効率的な 運⽤を実現 • AI 技術により 24 時間リアルタイム かつ幅広い状況の道路監視を⾃動化 • 常時監視が不要になり、監視員の監 視労⼒を 80% 削減 • データ活⽤による道路・排⽔路計画 など都市開発へも貢献 主に屋外⽤の照明を取扱い、特に 道路照明については国内トップ シェアのメーカー。照明器具の場 所を活⽤したカメラ付き照明、画 像処理による道路状況の早期異常 発⾒・省⼒化に注⼒。 I N D U S T R Y エレクトロニクス機器 C O U N T R Y ⽇本 Amazon Bedrockを⽤いた⽣成AIは道路冠⽔に限らず天気・ 倒れている⼈・⽕災・事故・公園でのボール遊び検知など ユーザーの要望に合わせ幅広く活⽤できると実感しています。 岩崎電気株式会社 上席執⾏役員 早川 弘幸 様 ” A W S ア ド バ ン ス ド テ ィ ア サ ー ビ ス パ ー ト ナ ー ™ 岩崎電気株式会社 : 「ENEPEACE」 に Amazon Bedrock とカメラ映像 API で道路状 況の⾃動監視機能を実装、実証検証により監視労⼒を 80% 削減 • 昨今、記録的な豪⾬などの異常気 象や震災が頻発しており、状況の 把握および対策などが急務 • 岩崎電気は夜間の監視にも強いカ メラ付き照明とセンサーによる災 害監視システムを提供している • しかし、労働⼒不⾜を背景に多数 のカメラを常時監視するのは⾮現 実的であるため、監視業務負荷の 効率化が求められている “
25. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 25 カメラで 映像を撮影 現場 製造現場・⼯場など 映像をAWSへ転送し、 ⽣成 AI でリアルタイム解析 ユースケース 1 : 危険への即応 監視カメラ映像からの事故や危険なイベントの抽出と通知 ユースケース 2 : 危険の予防 現場作業者の安全装備 (ヘルメットやベスト等) のカメラ映像によるチェック Web アプリ ライブ動画 状況の説明 建設作業員が家屋 内で梯⼦から落ち そうな状況で… ︕ Caution ⽣成 AI を活⽤した リアルタイムのカメラ映像からの情報抽出とシーン解説 ⽣成 AI によるカメラ映像からの危険判別
26. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ⽣成 AI によるカメラ映像からの危険判別 26 機器構成イメージ エッジコンピュータ シンプルな処理を実⾏ カメラ カメラ映像 AWS Cloud Bedrock (Claude 3) Kinesis Video Streams Rekognition AWS Cloud 複雑な処理を実⾏ 映像フレームの転送
27. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 27 DEMO
28. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 28 DEMO
29. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS re:Invent 2024 のイベント速報 29
30. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS re:Invent 2024 イベント概要 • AWSによるクラウドコンピューティングに関する 世界最⼤規模の「学習型」カンファレンス • 2024 年 12 ⽉ 2 ⽇ ~ 12 ⽉ 6 ⽇ • 多数のコンテンツ • 5 つのキーノート、AWSエキスパートによる 特定トピックに関する 17 つのInnovation Talks、 多数のブレイクアウトセッション、 ”Fun”イベント各種、re:Play Party • 多くのお客様が参加 • 現地参加: 約 60,000 名（40 万⼈がオンライン） • ⽇本からのお客様: 約 2,000 名 30
31. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Compute: カスタムシリコンへの投資成果 31 AI に特化したインスタンスの開発が進む 学習⽤途の Trainium, 推論⽤途の Inferentia Inferentia は Alexa にも活⽤ Trainium2 が⼀般利⽤開始 ︕ AWS INFERENTIA AWS TRAINIUM 同等のコンピューティング性能となる EC2（P5, P5en）に⽐べ 30-40% のコスト性能 更に次世代の Trainium3 も発表 !
32. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. お客様事例:AWS AIチップによる AIパフォーマンスとコストの最適化 AWSが開発したAIチップ、AWS TrainiumとAWS Inferentiaを使⽤したお客様事例を紹介 • Ricoh︓⽇本語LLM開発でTrainiumを活⽤、GPUを⽤ いた従来のモデル開発より50%のコスト削減を実現 • Arcee︓⼩規模⾔語モデル(SLM)の開発と展開について 紹介、80億パラメータモデル推論で32%優れたコスト 効率 • ByteDance︓マルチモーダルモデルの⼤規模推論で 20%以上のスループット向上と13%以上のコスト削減 ⼤規模⾔語モデルの進化や⼩規模⾔語モデル(SLM)、マル チモーダルモデルの普及やAIエージェントの発展など、⽣ 成AIの主要トレンドについても触れ、AIチップが今後も重 要な役割を担う 今回新たに発表されたTrainium2によって、前世代⽐4倍の 性能向上と95%のメモリ帯域幅向上でエネルギー効率が改 善された他、Neuron SDKの機能や優位性を解説している Customer stories: Optimizing AI performance and cost with AWS AI chips (CMP208) https://www.youtube.com/watch?v=cdrZHimJY2k
33. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 機械学習 (⼤規模学習・推論) 機械学習 (推論) グラフィックス P5e P5 NVIDIA H200 Tensor Core GPU NVIDIA H100 Tensor Core GPU G5 NVIDIA A10G Tensor Core GPU G4dn NVIDIA T4 GPU Trn2 AWS Trainium2 Inf2 AWS Inferentia2 G4ad AMD Radeon Pro V520 GPU G4dn NVIDIA T4 GPU Inf1 AWS Inferentia G5 NVIDIA A10G Tensor Core GPU G6e NVIDIA L40S GPU G6 NVIDIA L4 GPU G6 NVIDIA L4 GPU AWS Trainium3 内はアナウンスのみ P6 P5en NVIDIA Blackwell GPU NVIDIA H200 Tensor Core GPU AWS では⽬的に応じて様々なアクセラレータの選択肢を提供 ※2024/12/13時点で東京リージョンで利⽤可能(⽇付はWhatʼs new) ※2024/12/06 ※2024/11/12 ※2024/11/21 ※2024/09/25 ※2021/07/29 ※2023/06/27 ※2020/06/05 ※2020/08/13 ※2024/11/15 ※2024/09/25 ※2023/06/27 ※2020/06/05
34. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Nova の提供開始 34 Amazon Nova Micro マルチモーダル・画像⽣成・動画⽣成モデル Amazon Nova Pro Amazon Nova Lite Amazon Nova Premier Amazon Nova Canvas Amazon Nova Reel テキストのみに対応、 低コストと低遅延 [⼀般提供開始] テキスト以外に画像､⾳声､ 動画対応のマルチモーダル [⼀般提供開始] テキスト以外に画像､⾳声､ 動画対応のマルチモーダル [⼀般提供開始] マルチモーダル､最も複雑 な推論タスクに対応 [2025年提供予定] テキストからスタジオ品質の 画像を⽣成 [⼀般提供開始] テキストからスタジオ品質の 動画を⽣成 [⼀般提供開始]
35. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 背 景 画 像 の 差 し 替 え Amazon Nova Canvas - ⾃動編集 outpainting Mask prompt: “coffee maker” Text prompt: “a coffee maker in a sparse stylish kitchen, plate of pastries next to the coffee maker, a single cup of coffee”
36. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. “Dolly forward” Amazon Nova - Image to video
37. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 37 Thank you!