Depth画像で物体検知やってみたー。/ Objects Detection with Depth Images

2020年2月8日開催の「【奈良】GCPUG in Nara #5【CODE for NARA共催】～ はじめてみよう!! Docker/Kubernetes入門 ～」のLT資料です.

Transcript

1. Depth画像で物体検知やってみたー。 2020/2/8 CODE for YAMATOKORIYAMA Moonlight 明日香 GCPUG in Nara #5 LT
2. 自己紹介 Facebook moonlight.aska Twitter @moonlight_aska Blog みらいテックラボ http://mirai-tec.hatenablog.com ➢ 鶴田 彰 ➢ (昔の)得意分野 ： パターン認識(音声, 画像, etc) ユーザ適応(レコメンド, etc) ➢ コミュニティ活動 ： CODE for YAMATOKORIYAMA GCPUG NARA Organizer
3. おことわり GCPまったくでてきません!!
4. そもそもの始まり ◼ 2017年12月 ある大きな施設で来場者をカウントしたーい!!
5. そもそもの始まり アイデア出し(2018.1.14) 1. カメラ RGBカメラだと個人特定できるのでカメラ設置を嫌がれるかも. 2. 感圧マット 3. 赤外線センサ ： 提案： 3Dセンサ(Depthカメラ)による人の出入りカウント 理由： ✓ 3Dセンサならプライバシーの問題を回避可能. ✓ 施設内での動線(人の流れ)解析へ拡張しやすそう.
6. これまでの取組み ◼2018年1月アイデア出し ◼2018年2-4月プロトタイプ開発 ◼2018年12月実証実験@Hug2祭り 課題①：複数人の同時通行 課題②：自動ドアの影響 ◼2019年8月-11月YOLOv3版開発 ◼2019年12月実証実験＠Hug2祭り 課題①の例 課題②の例
7. 実証実験の様子(2回目) 2019/12/1 Hug2祭り＠奈良市ボランティアインフォメーションセンター 3Dカメラによる人数カウント
8. 計測状況
9. 来場者測定結果
10. Depthカメラとは? X Y ー 物体の色 ＋ 物体までの距離(Z方向) 実空間上(XYZ)の位置/動きを感知すること!! 写真撮影 RGB画像 https://www.tdk.co.jp/techmag/knowledge/201102u/
11. システム構成 Intel RealSense D415/D435 Jetson Nano USB3.0 2019年版 2018年版 Intel RealSense D415/D435 ASUS VivoMini UN62 USB3.0
12. 処理の流れ 距 離 画 像 取 り 込 み グ レ ー ス ケ ー ル 変 換 人 物 検 出 人 物 領 域 重 心 計 算 追 跡 中 人 物 と 照 合 人 物 情 報 更 新 人 数 カ ウ ン ト YOLOv3 2019年版 2018年版 画 像 取 り 込 み 背 景 差 分 二 値 化 ノ イ ズ 除 去 輪 郭 抽 出 人 物 領 域 重 心 計 算 追 跡 中 人 物 と 照 合 人 物 情 報 更 新 人 数 カ ウ ン ト
13. YOLOv3とは https://pjreddie.com/darknet/ YOLO Darknet Open Source Neural Networks in C Real Time Object Detection
14. Pythonで動かすには YOLOv3はCによるライブラリ PythonでYOLOv3を動かす方法： 1. ctypes(*1)を使う ⇒ darknet/python/darknet.py 2. YOLOv3の学習済モデルを使う ⇒ keras-yolo3 *1:このライブラリはCと互換性のあるデータ型を提供し, 動的リンク/共有 ライブラリ内の関数呼び出しを可能にする.
15. JetsonNanoで動かすには 課題はすぐにやってきたー. ★3-4 FPSとフレーム毎の処理がまったく間に合わない!! 15FPS程度まで改善 対策①：画像を640x480→320x240にリサイズして渡す 対策②：YOLOv3のモデルの入力サイズを 416x416→224x224に 原因：OpenCVの画像データからYOLOv3に渡す画像デー タに変換する処理.
16. 検出精度をあげるには [当初] [改良後] 手や荷物で変形パターンが多い
17. トラッキングとカウント 追跡中 人物 ID=10 ID=12 ID=13 処理中 フレーム LEFT・RIGHTエリア × × 〇 〇 判定エリア
18. 新たな課題も ◼ 単独通過だが人物検出に失敗 ◼ 子供の検出に失敗 ◼ 通過判定線付近に人物が停滞すると連続カウントup 全国金魚すくい選手権で 来場者のカウントをやってみるか!?
19. Thank You!