CNDT2022_AWS_Outpostsで始めるエッジコンピューティング.pdf

© NTT Communications Corporation All Rights Reserved. AWS Outpostsで始める  エッジコンピューティング 
CloudNative Days Tokyo 2022  NTTコミュニケーションズ株式会社  鈴ヶ嶺聡哲 

© NTT Communications Corporation All Rights Reserved. 2 自己紹介  •
名前 ◦ 鈴ヶ嶺聡哲 • 所属 ◦ NTTコミュニケーションズイノベーションセンターテクノロジー部門 AIインフラPJ • 業務内容 ◦ パブリック・ハイブリッドクラウドの技術検証 ◦ 機械学習システムの技術検証 • ハイブリッドクラウドに関するブログ記事公開中！！ ◦ 「NTT Com ブログハイブリッドクラウド」で検索 https://engineers.ntt.com/archive/category/ハイブリッドクラウド ▪ 【日本初導入】 AWS Outposts ラックを徹底解説 • 第1回〜導入・利用方法の概要〜 • 第2回〜AWS CDKによるInfrastructure as Code〜 • 第3回〜TerraformによるPrivate EKS構築〜 ▪ AWS Outpostsで実現するオンプレデータレイク ▪ Local cluster for EKS on AWS Outpostsについて紹介 ▪ ElastiCache on Outposts を試す AWS Outpostsに関するブログ記事 

© NTT Communications Corporation All Rights Reserved. 3 アジェンダ  1.
クラウドコンピューティングの課題とエッジコンピューティング  2. エッジ環境構築の課題  3. AWS Outpostsとは  4. ユースケース  a. 低レイテンシーコンピューティング b. データレジデンシー c. 移行とモダナイゼーション d. ローカルデータ処理 5. NTTコミュニケーションズの取り組み  a. データセンターサービス: Nexcenter b. インターコネクトサービス: Flexible InterConnect(FIC) c. データ分析ソリューション: Node-AI on Outposts 6. まとめ 

© NTT Communications Corporation All Rights Reserved. 5 クラウドアーキテクチャの課題  クラウドシステムの課題 
• 中央処理・データ集約による遅延 • プライバシー保護の要件が満たせない • 全デバイスの通信による低いエネルギー効率クラウドシステムの概要 

© NTT Communications Corporation All Rights Reserved. 6 エッジコンピューティング  クラウドシステムの課題 
• 中央処理・データ集約による遅延 • プライバシー保護の要件が満たせない • 全デバイスの通信による低いエネルギー効率エッジシステムによる解決策  • 近距離・低遅延処理による高速化 • ローカル処理による安全性 • エッジでの一時処理によるデータ・通信削減  クラウドシステムの概要  エッジシステムの概要 

© NTT Communications Corporation All Rights Reserved. 8 エッジ環境構築の課題  エッジコンピューティングの3層モデル
引用: Shi, Weisong, George Pallis, and Zhiwei Xu. "Edge computing [scanning the issue]." Proceedings of the IEEE 107.8 (2019): 1474-1481.

© NTT Communications Corporation All Rights Reserved. 9 エッジ環境構築の課題  引用:
Shi, Weisong, George Pallis, and Zhiwei Xu. "Edge computing [scanning the issue]." Proceedings of the IEEE 107.8 (2019): 1474-1481. 素早い開発効率・基盤 DevOps, IaC 大規模ストレージローカル処理のための計算リソース GPU, Scaling 運用稼働サポート体制クラウド連携セキュリティ MFA, アクセス制御エッジコンピューティングの3層モデル

© NTT Communications Corporation All Rights Reserved. 10 エッジ環境構築の課題  引用:
Shi, Weisong, George Pallis, and Zhiwei Xu. "Edge computing [scanning the issue]." Proceedings of the IEEE 107.8 (2019): 1474-1481. 素早い開発効率・基盤 DevOps, IaC 大規模ストレージローカル処理のための計算リソース GPU, Scaling 運用稼働サポート体制クラウド連携エッジコンピューティングの3層モデル AWS Outpostsによってこれらの課題は解決可能  セキュリティ MFA, アクセス制御

© NTT Communications Corporation All Rights Reserved. 12 AWS Outposts 
AWS Outposts Servers ローカル環境でAWSサービスを実行可能想定されるユースケースオンプレミス環境にコンピューティング、ネットワーキング、セキュリティなどのAWSサービスを拡張可能低レイテンシーコンピューティングデータレジデンシー移行とモダナイゼーションローカルデータ処理 ※ 具体的な詳細とアーキテクチャについては後述 AWS Outposts Rack ソフト・ハード含めてAWSがフルマネージドソフト・ハードに問題があった場合のエスカレーション先はAWSサポートで一括管理利用者はアプリケーションやNW設定などが責任範囲ラック内の開閉は不可、Nitro Security Keyによるハードウェアセキュリティ機能拡充もAWS側で自動更新

© NTT Communications Corporation All Rights Reserved. 13 AWS Outposts
Servers  AWS Outposts Servers 1U/2Uタイプを選択可能 AWS Graviton2(ARM)を利用可能導入コストを大幅に削減エネルギー使用量 1 ワットあたりの最高のパフォーマンス性能に対して安価なコストパフォーマンス価格例 C6gd.16xlarge(Graviton2): 月額 $547.97 C6id.16xlarge(Intel Xeon 3世代): 月額 $684.96

© NTT Communications Corporation All Rights Reserved. 14 AWS Outposts
Rack  AWS Outposts Rack 42U、最大96ラックまで設置可能 S3、GPUインスタンスが利用可能 42Uの1ラックをベースに最大96ラックまで拡張可能 S3の最大容量は380 TB NVIDIA T4 GPU搭載のG4dn インスタンスを利用可能

© NTT Communications Corporation All Rights Reserved. 15 AWS CloudとAWS
Outposts  Outposts AWS Cloud Availability Zone (ap-northeast-1c) Availability Zone (ap-northeast-1a) Availability Zone (ap-northeast-1d) VPC Public subnet (b-public) Public subnet (c-public) Public subnet (d-public) Private subnet (b-private) Private subnet (c-private) Private subnet (d-private) Internet gateway NAT Gateway Availability Zone (ap-northeast-1d) Public subnet (outposts-public) Private subnet (outposts-private) Local Gateway EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2

Outposts  Outposts AWS Cloud Availability Zone (ap-northeast-1c) Availability Zone (ap-northeast-1a) Availability Zone (ap-northeast-1d) VPC Public subnet (b-public) Public subnet (c-public) Public subnet (d-public) Private subnet (b-private) Private subnet (c-private) Private subnet (d-private) Internet gateway NAT Gateway Availability Zone (ap-northeast-1d) Public subnet (outposts-public) Private subnet (outposts-private) Local Gateway EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 物理的には独立している

Outposts  Outposts AWS Cloud Availability Zone (ap-northeast-1c) Availability Zone (ap-northeast-1a) Availability Zone (ap-northeast-1d) VPC Public subnet (b-public) Public subnet (c-public) Public subnet (d-public) Private subnet (b-private) Private subnet (c-private) Private subnet (d-private) Internet gateway NAT Gateway Availability Zone (ap-northeast-1d) Public subnet (outposts-public) Private subnet (outposts-private) Local Gateway EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 論理的にはVPC内の1 subnet 物理的には独立している

Outposts  Outposts AWS Cloud Availability Zone (ap-northeast-1c) Availability Zone (ap-northeast-1a) Availability Zone (ap-northeast-1d) VPC Public subnet (b-public) Public subnet (c-public) Public subnet (d-public) Private subnet (b-private) Private subnet (c-private) Private subnet (d-private) Internet gateway NAT Gateway Availability Zone (ap-northeast-1d) Public subnet (outposts-public) Private subnet (outposts-private) Local Gateway EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 論理的にはVPC内の1 subnet 物理的には独立している Subnet上にリソースを作成される

Outposts  Outposts AWS Cloud Availability Zone (ap-northeast-1c) Availability Zone (ap-northeast-1a) Availability Zone (ap-northeast-1d) VPC Public subnet (b-public) Public subnet (c-public) Public subnet (d-public) Private subnet (b-private) Private subnet (c-private) Private subnet (d-private) Internet gateway NAT Gateway Availability Zone (ap-northeast-1d) Public subnet (outposts-public) Private subnet (outposts-private) Local Gateway EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 EC2 論理的にはVPC内の1 subnet 物理的には独立している Subnet上にリソースを作成されるオンプレ環境とはLocal Gatewayを通して接続される EC2に顧客所有の IP アドレス (CoIP) 付与して通信

© NTT Communications Corporation All Rights Reserved. 20 AWS Outpostsで利用可能なサービス 
AWS Outposts Rack  • Amazon Elastic Compute Cloud (EC2)  • Amazon Elastic Container Service (ECS)  • Amazon Elastic Kubernetes Service (EKS)  • Amazon Elastic Block Store (EBS)  • Amazon EBS Snapshots  • Amazon Simple Storage Service (S3)  • Amazon Relational Database Service (RDS)  • Amazon Elasticache  • Amazon EMR  • Application Load Balancer (ALB)  • CloudEndure  • VMwareCloud  • Amazon Virtual Private Cloud(VPC)  AWS Outposts Servers  • Amazon Elastic Compute Cloud (EC2)  • Amazon Elastic Container Service (ECS)  • AWS IoT Greengrass  • Amazon Sagemaker Edge Manager  • Amazon Virtual Private Cloud(VPC)  「ローカルでサポートされているサービス」から引用 https://aws.amazon.com/jp/outposts/

© NTT Communications Corporation All Rights Reserved. 22 例：EC2の起動  インスタンス作成
AWS Outposts専用ページ

© NTT Communications Corporation All Rights Reserved. 23 例：EC2の起動  Public
AWSと同様のUI/UX c-planeはPublic AWS

© NTT Communications Corporation All Rights Reserved. 24 EC2の性能比較(Public AWSとの比較) 
性能比較  • 各種ベンチマーク • Unixbench • システムの性能評価 • ramspeed(INTmem) • メモリの性能評価 • MLPerf Image Segmentation • 機械学習の性能評価 • 遅延計測 • ping   比較対象  • AWS Outposts Rack • Public AWS(ap-northeast-1a)   EC2インスタンスサイズ  • m5.large • 2vCPU • 8GiB • gp2 30GB • g4dn.2xlarge • 1GPU(NVIDIA Tesla T4) • 8vCPU • 32GiB • gp2 512GB

© NTT Communications Corporation All Rights Reserved. 25 EC2の性能比較（ベンチマーク）  g4dn.2xlarge
• 1GPU(NVIDIA Tesla T4) • 8vCPU • 32GiB • gp2 512GB Good  Good  Good  m5.large • 2vCPU • 8GiB • gp2 30GB Good  Good  Public AWSと同等のCPU・GPUインスタンスが使用可能 

© NTT Communications Corporation All Rights Reserved. 26 EC2の性能比較（遅延計測）  AWS
Outposts  都内某A拠点  Public AWS  ap-northeast-1  (東京リージョン)  測定サーバ  都内某B拠点  pingのrtt(avg)の定点観測結果 2022/05 ~ 2022/11  Good  AWS Outpostsは低遅延で安定した通信が可能 

© NTT Communications Corporation All Rights Reserved. 28 EKS・ECS  •
AWS Outposts上のEKS・ECSのWorker NodeはEC2を自ら管理するセルフマネージド型ノード・EC2 起動タイプのみ利用可能  • Auto Scaling groupを利用することでScalingを実現  • AWS CloudとAWS Outposts接続の切断時の挙動  ◦ EKS ▪ 拡張クラスター（AWS Cloud上にコントロールプレーン） • ダウンタイム発生 ▪ ローカルクラスター（AWS Outposts上にコントローラプレーン） • 継続してオペレーション可能 ◦ ECS（AWS Cloud上にコントロールプレーン） ▪ ダウンタイム発生

© NTT Communications Corporation All Rights Reserved. 30 S3 on
Outposts  • S3 バケットを AWS Outposts に作成して、オンプレミスでのオブジェクトの保存と取得が可能  • Public S3と同様に書き込み後読み取りの強力な整合性を保証  • 基本的にデータはマネージド暗号化キーを使用して暗号化、オプションでカスタム暗号化キーを利用可能  • 最大容量は380TB  • 基本的なS3の機能はサポート  ◦ CopyObject ◦ DeleteObject ◦ GetObject ◦ ListObjectsV2 ◦ PutObject ◦ etc… • サポートされていない機能  ◦ パブリックバケット ◦ S3 バージョニング ◦ S3 イベント通知 ◦ S3 Select ◦ AWS Lambda のイベント ◦ ウェブサイトへのアクセス ◦ etc… 「Amazon S3 on Outposts と Amazon S3 の違い」から引用 https://docs.aws.amazon.com/ja_jp/AmazonS3/latest/userguide/S3OnOutpostsRestrictionsLimitations.html

© NTT Communications Corporation All Rights Reserved. 31 Infrastructure as
Code  EC2 subnet EBS Volume EC2 Instance ALB S3 on Outposts CDK △ ◦ ◦ × ◦ Terraform ◦ ◦ ◦ ◦ ◦ ◦は完全にサポート  △は一部サポートされてない※  ×は完全にサポートされてない  ※ customer owned IP addressの自動付与 • AWS CDK, Terraform等に対応可能  サポート状況 

© NTT Communications Corporation All Rights Reserved. 32 セキュリティ  •
AWS OutpostsはAWS CloudのIAMを利用することで安全な認証・アクセス制限が可能  • これらの機能を自らエッジ環境に構築するのは非常に難しく稼働が大きい    • MFA（多要素認証）  ◦ IAMユーザーのMFA機能を利用することで実現可能 ◦ AWS Console, AWS CLIなどの操作にMFA認証を強制可能 • アクセス制御  ◦ IAM Role, Policyで実現 ◦ RBAC(ロールベースのアクセス制御) ◦ ABAC（属性・タグベースのアクセス制御） ▪ 従来のRBACに比べて複数のメリットがある • アクセス許可を変更に合わせてスケール可能 • 必要なポリシーが少なくなる • チームの迅速な変化と成長に貢献 • きめ細かなアクセス許可が可能 • 社内ディレクトリの従業員属性を利用可能 ABACの例  エッジ環境にゼロトラストな環境を構築可能 

© NTT Communications Corporation All Rights Reserved. 33 エッジ環境構築の課題（再掲）  引用:
Shi, Weisong, George Pallis, and Zhiwei Xu. "Edge computing [scanning the issue]." Proceedings of the IEEE 107.8 (2019): 1474-1481. 素早い開発効率・基盤 DevOps, IaC 大規模ストレージローカル処理のための計算リソース GPU, Scaling 運用稼働サポート体制クラウド連携エッジコンピューティングの3層モデル AWS Outpostsによってこれらの課題は解決可能  セキュリティ MFA, アクセス制御

© NTT Communications Corporation All Rights Reserved. 34 エッジ環境構築の課題とAWS Outposts 
• 素早い開発効率・基盤DevOps, IaC  ➡ AWS サービスをオンプレミス環境で実行可能  ➡ Cloudformation, CDK, Terraformなどに対応  • ローカル処理のための計算リソースGPU, AutoScaling  ➡ g4dn(NVIDA Tesla T4)のGPUインスタンスを利用可能  ➡ EKS, ECSによるスケーリングも実現可能  • 大規模ストレージ  ➡ 最大容量380TBのS3 on Outpostsを利用可能  • セキュリティ MFA, RBAC  ➡ AWS IAMのMFA, IAM PolicyによりRBAC, ABACのアクセス制御が可能  • 運用稼働サポート体制  ➡ 基盤のソフトウェア・ハードウェアはAWSが一言管理  ➡ ハードウェア交換対応などもAWSが対応  • クラウド連携  ➡ 論理的にはリソースはAWS Cloudと共通のVPCのsubnetに作成される  ➡ IAMもAWS Cloudと共通 

1. 低レイテンシーコンピューティング  2. データレジデンシー  3. 移行とモダナイゼーション  4. ローカルデータ処理 

© NTT Communications Corporation All Rights Reserved. 38 低レイテンシーコンピューティング  •
要件・状況  ◦ 最寄りのPublic Cloudではレイテンシ要件を満たせない ◦ 大量に存在するIoTセンサーデータを即時に処理 ◦ 今後、IoT センサー機器の増減を予定 • AWS Outposts Rack/Serversによる解決方法  ◦ 近距離地点にOutpostsを設置による低レイテンシ処理 ◦ EKS・ECSによる大量データの即時処理 ◦ Auto Scalling groupを活用することでIoT センサー機器の増加にも対応可能

© NTT Communications Corporation All Rights Reserved. 40 データレジデンシー  •
要件・課題  ◦ 政府、金融、医療など機密性の高いデータを扱う ◦ 自前の暗号化キーによる暗号化 ◦ 大規模データ ◦ 特定地域にデータがあることを保証する必要 • AWS Outposts Rackによる解決方法  ◦ S3 on Outpostsへ貯蔵 ▪ 高い安全性 ▪ クライアントの暗号化キーに対応 ▪ 最大380TBの大規模オブジェクトストレージ ▪ データの所在の明確化

© NTT Communications Corporation All Rights Reserved. 42 移行とモダナイゼーション  •
要件・課題  ◦ 既存オンプレミス環境のサーバ、DBの移行 ◦ 定期バックアップ ◦ 監視機能の導入 ◦ 統一的なセキュリティ、アクセス制御 • AWS Outposts Rackによる解決方法  ◦ CloudEndure Migrationによる移行 ◦ RDS, EC2によるモダナイゼーション ▪ スナップショットによる定期バックアップ ▪ CPU, Memory使用率のモニタリング機能 ▪ IAMによるセキュリティ、アクセス制御

© NTT Communications Corporation All Rights Reserved. 44 ローカルデータ処理  •
要件・課題  ◦ 大量に存在するIoTセンサーデータを処理 ◦ 今後、IoT センサー機器の増減を予定 ◦ 処理結果をPublic Cloud上で分析・可視化 • AWS Outposts Rack/Serversによる解決方法  ◦ EKS・ECSによる大量データの即時処理 ◦ Auto Scalling groupを活用することでIoT センサー機器の増加にも対応可能 ◦ AWS OutpostsリソースはVPCの1subnet ▪ Public Cloudとのデータ連携可能 ▪ Public AWSのS3, Quicksightによる分析・可視化

© NTT Communications Corporation All Rights Reserved. 48 データセンターサービス Nexcenter 
• ハイブリッドクラウド設置の課題  ◦ 特にラックタイプなどは構築コストが非常に高い ◦ 考慮すべき事項 ▪ ラックの物理的な安全性 ▪ ネットワーク接続の一貫性 ▪ 安定した電源共有 ▪ データセンター側の持ち込みラックの対応 ▪ 搭載内容によって荷重や電源容量が変更 ▪ etc…   • データセンターサービス Nexcenter  ◦ 先進のテクノロジーによる安全で柔軟なサービス ◦ 災害に強く、セキュリティ万全なデータセンターで、お客さまの重要なICTシステムが安全に運用できるColocation（コロケーション）サービスを提供 ◦ 高速・低遅延ネットワークに直結し、各種クラウドやお客さま拠点間をシームレスかつ柔軟につなぐデータセンターで、複雑化したICT環境をスマートに運用・管理可能 ◦ 高品質な電源供給を必要とするGPUを搭載したAWS Outpostsなどの設置実績あり AWS Outposts Rack  

© NTT Communications Corporation All Rights Reserved. 50 • セキュアなNW接続によるエッジシステムの課題 
◦ AWS OutpostsはAWS Cloudとの接続が必須 ▪ 特にAWS Outposts Rackは1Gbps専用線接続が推奨 ◦ 拠点間の相互閉域接続   • セキュアに接続可能な次世代インターコネクトサービス  Flexible InterConnect(FIC)  ◦ 広帯域で安定した閉域接続 ▪ 最大10Gbpsの広帯域接続にも対応 ◦ 直感的なUIでIT担当者の負担を軽減 ▪ ポータルサイトから接続先、帯域設定などを一元管理 ◦ 専門機器の購入や設定が不要に ▪ ファイヤーウォールやNATなどをソフトウェアコンポーネントとして提供 ◦ 上限付き時間課金で安心 ▪ 使用時間に応じ、使った分だけ課金される時間課金 ▪ 新規ビジネスなど、スモールスタートが可能セキュアに接続可能な次世代インターコネクトサービスFlexible InterConnect(FIC)  相互閉域接続されたセキュアなエッジシステム  セキュアな接続  ToR 1 AWS Outposts ToR 2 境界 SW 1 境界 SW 2 Outpo sts Route r FIC for AWS センサー SW Service Link接続 Local Gateway接続

© NTT Communications Corporation All Rights Reserved. 52 国内初、「AWS Outposts」に自社データ分析ツールを組み込
んだソリューションを開発  自社データ分析ツールNode-AIをAWS Outpostsに組み込んだソリューション Node-AI on AWS Outpostsの事例紹介 Node-AI on AWS Outpostsの特長 ◦ 機密情報をローカル環境に保持したままデータ分析 ▪ 機密情報をクラウドに送信することなく、セキュアに分析可能 ◦ 大容量かつ高度なデータ分析を低遅延で実行 ▪ データソースに近い場所で処理するため、大容量データを低遅延で分析可能ニュースリリース https://www.ntt.com/about-us/press-releases/news/article/2022/0314.html

© NTT Communications Corporation All Rights Reserved. 53 ブラウザからノーコードで時系列データのAIモデルを作成できる  AIコラボレーションツール 
ノンコーディング・  誰でも理解可能な分析フロー構築ツール上で議論・報告書作成導入の判断・システム連携効率化ブラウザ上でカードを自由に  つなげ分析フローを構築  ユーザの知見を入れながら分析可能  Node-AI上でのコメントによる議論や  報告書を作成可能にすることで  コミュニケーションを省力化  要因分析・因果分析機能による  AIモデルの説明を可視化。  学習したAIモデルを簡単にシステム連携可能   時系列データに特化。予測や異常検知への適用や因果分析、要因分析などの課題に対応  第16回ASPIC IoT・AI・クラウドアワード2022において「AI部門総合グランプリ」を獲得！！ 

© NTT Communications Corporation All Rights Reserved. 56 まとめ  •
エッジコンピューティングはクラウドコンピューティングのセキュリティ・遅延応答の課題を解決可能  • AWS Outpostsにより従来のエッジ環境構築の課題を解決しDevOps, ゼロトラストな環境を構築可能  • AWS Outpostsを活用することで様々なユースケースを実現  ◦ 低レイテンシーコンピューティング ◦ データレジデンシー ◦ 移行とモダナイゼーション ◦ ローカルデータ処理 • NTTコミュニケーションズの取り組み  ◦ データセンターサービス Nexcenter ◦ セキュアに接続可能な次世代インターコネクトサービス Flexible InterConnect(FIC) ◦ ローカル環境で動作可能なデータ分析ソリューション Node-AI on Outposts Nexcenter Flexible InterConnect(FIC) Node-AI on Outposts AWS Outposts Rack   AWS Outposts Servers  

CNDT2022_AWS_Outpostsで始めるエッジコンピューティング.pdf

CNDT2022_AWS_Outpostsで始めるエッジコンピューティング.pdf

More Decks by suzu

Other Decks in Programming

Featured

Transcript