Upgrade to Pro — share decks privately, control downloads, hide ads and more …

AIに必要なデータをどう送るか、ネットワークを考える

0ced4f52ccc9e9b2644b4dd7f475e545?s=47 kkojima
November 02, 2020

 AIに必要なデータをどう送るか、ネットワークを考える

Dojo++ 「GPUなしでもここまでできるAI構築シリーズ Part 3」
https://connpass.com/event/190151/

ネットワークミニ講座

0ced4f52ccc9e9b2644b4dd7f475e545?s=128

kkojima

November 02, 2020
Tweet

Transcript

  1. GPUなしでもここまでできるAI構築シリーズ 2020.10.29 「AIに必要なデータをどう送るのか、 ネットワークを考える」

  2. TCP/IP • 「データサイエンティスト」のなかにはIPアドレスが何である か知らない⼈もいる • コンバータ、インバータを説明できなくても交流100V電源で PC が使えるのと同じなのかも • 5G

    で運ばれるデータはきっと TCP/IP がダントツで多いはず
  3. 5G 通信に期待される利⽤法 https://www.soumu.go.jp/main_content/000633132.pdf 令和元年度「第5世代移動通信システム(5G)の今と将来展」ローカル5G概要 より抜粋

  4. 5G 通信のつかいかた 物としては: ドローン、ロボット、センサー、スマートグラス 動作としては: 映像、画像等を撮って送る、つまり⼤容量データの転送 例外扱いが必要なのはゲーム: eスポーツは遅延少なく応答する必要がある

  5. Deep Learning などの AI 技術 • SI に AI を⽤いることが特別ではなくなってきた

    • 特別な学術教育を受けなくても AI 技術を応⽤できるツールが 増えた(むしろツールの使い⽅が重要になった) • ハードウェア製品の多様性が増した
  6. ネットワーク ゲートウェイ サーバ AI(学習) データ保存 データ 解析・保存 Camera など 5G,

    LTE または 有線接続サービス 現地機器 AI(推論) データ保存 ハードウェアの配置
  7. どれくらいのデータ転送が必要なのか スマホ⾼画質: 800万画素 30フレーム/秒 製造ラインでの要求: 500万画素 30フレーム/秒 24時間稼働だと⽉に 15-30 TB

    程度か 5G通信の規格は 10 Gbps 以上
  8. レイテンシが⼤きくなる理由 • 電波、通信の規格そのもの • 中継⽅法、中継回数 • サーバ内の I/O すべてにTCP/IPの性質がかかわってくる

  9. なんで5G通信が必要? TCP/IP の限界 平均: 9.9 G bit/秒 3.0 PB/⽉ 平均:

    16 M bit/秒 0.0046 PB/⽉ 平均: 1.5 G bit/秒 0.5 PB/⽉ 10Gbps 0 2ඵ レイテンシ 170ms レイテンシ170ms + パケットロス0.5% 10Gbps 2ඵ 10Gbps 2ඵ 0 0 構内接続に類似 遠距離接続に類似 インターネットに類似 レイテンシが⼤きい環境ではデータが思ったように送られない しかもパケットロスがあると壊滅的になる レイテンシ 1ms以下 10 Gbps で測ってみた!
  10. おしまい 次回は 11⽉12⽇ 14:00から