Azure Kinect+Unityで軽率にBody Trackingする

Transcript

1. Azure Kinect + Unityで 軽率にBody Trackingする 第４回バーチャル学生LT にー兄さん(@ninisan_drumath)

2. にー兄さん@ninisan_drumath 万年外出自粛系大学生 筑波大学情報科学類3年(coins18) リアルタイムCG、Humanoid制御、AR/VRとか好き 最近はもっぱらUnity開発がメイン バーチャル学生LT登壇は初めて(学生LTは4回目くらい？) 久しぶりの5分LTなので自信がない

3. スライド公開します SNSへの投稿(?)も問題ないです！

4. agenda Azure Kinect #とは UnityでAzureKinect BodyTracking 触ってみた感想

5. Azure Kinect #とは

6. Kinectとは？ ❖ センサーデバイスのこと ❖ 天下のMicrosoft謹製 ❖ RGB画像、深度、人体検出などができる

7. Kinectとバージョン v1, v2 →Xbox用に作られ、後にWindowsで汎用的に開 発できるようになるが、生産終了した v3 →「Hololens」という名称で発売 　現在はHololens2が出ている v4 →「Azure

   Kinect」という名称で発売 　3月には日本での発売も 本日は☝のAzure Kinectについて話します

8. Azure Kinectについてもう少し深く 従来のKinectよりも軽量かつ小型化された Azureと接続→高度な ✝AI✝ による認識性能向 上 C++とC#のSDKが配布されている 価格は47,025円(5/8現在) もちろんBody

   Trackingも使える だがUnity用の公式パッケージがない

9. UnityでAzureKinect BodyTracking

10. そもそもUnityで使えるのか...？ (前述のとおり)Unityの公式BodyTrakcingSDKなんてものはない しかし情報を漁ると色々出てくる →たぶんできそう(本日の軽率ポイント)

11. 検証環境 Unity：2018.4.x Azure Kinect SDK：1.4.0 Azure Kinect Body Tracking SDK：1.0.0

    これらのセットアップが済んでいることを想定

12. 試したリポジトリ curiosity-inc/azure-kinect-dk-unity →BodyTrackingSDKのバージョン違いなのか 　Unityがクラッシュしてしまった satoshi-maemoto/Azure-Kinect-Unity-Body-Tracker →ちゃんと動いた、がコードリーディングで挫折(クソザコ) 　またチャレンジしたいところ microsoft/Azure-Kinect-Samples →よくみたら公式サンプルあるやんけ →普通に動いたしコードも簡単なので採用

13. 実行環境の構築 READMEに書いてある通りプロジェクトをVSで開き、 コンソールからnugetパッケージをインストする 注意１：ディレクトリ階層が深すぎるとインストールに失敗する 注意2：UnityパッケージのNuGetForUnityは使えない

14. 実行環境の構築 あとはバッチファイルを実行(dllの移動など)をすれば実行できる！ｺﾛﾝﾋﾞｱ！

15. プロジェクト概観 main.csをいじればviewerくらい 簡単に作れそう UnityEngineとSystem.Numerics にVector3が存在するので 相互変換が必要そう Bodyも複数名前空間に存在

16. 実はビルドしたサンプルは正常終了しなくて... ビルドディレクトリにcublas_64.dllとcudart_64.dllを含め ると動作する だが終了時にクラッシュする バックグラウンドプロセスを処理できているように見える →実際はプロセスが終了する前にアプリが落ちる →Azure Kinectのコネクションが残る厄介なバグ →Unityエディタでは起こらないのでもっと厄介 ビルドしたアプリがクラッシュするDaiGo

17. 触ってみた感想

18. v2と比べていいと思ったところ • コンパクトで見た目が可愛い(カラバリとかほしい)(諸説あり) • v2のようにトラッキングが外れたときにボーンが破綻しない • 手が体の前にあっても割と認識してくれる →精度向上は微妙、みたいな意見も聞いたことあるけど自分的には • 前後判定ができる→鼻や目の位置が取れる

    • ボーンの種類が変わった→数も増えたしchestのボーンがある

19. 要望 Unity用のBodyTrackingパッケージが欲しい レコードデータをアプリに流せる機能が欲しい →v2のときにはKinect Studioで実装されている マウントホルダー的なものが欲しい（すでにある？） →小さいのでディスプレイに着けても負担が軽そう

20. ご清聴ありがとうございました