2か月で軽率に WebARフェイスフィルターを作ってみた

Transcript

1. 2か月で軽率に WebARフェイスフィルターを 作ってみた にー兄さん(ninisan_drumath) WebXR Tech Tokyo #2 @ cluster

2. agenda はじめに 自己紹介 キッカケ 技術選定 そもそも可能なのか

3. はじめに

4. にー兄さん(@ninisan_drumath) 筑波大学情報科学類3年(coins18) 3DCGが好き；3Dセンサ, VFX, xR, Humanoidアバター制御, ...など もっぱらUnity使い 最近のマイブームはAzureKinect

5. きっかけ 大学のチーム開発の授業(筑波大学COJT20) Webを用いたチーム開発をすることになる WebはよくわからないけどARはやりたい →むりやりWebARでなんか作ろう せっかくなので コロナ時代の需要を考えたい

6. WebAR試着ができるサービス　Faciop Web上で顔につけるファッションアイテムを AR試着できるECサイトのプロトタイプ 3Dモデラーが作ったファッションアイテムを投稿、収益 にできる 5月に発案、7月末に発表 2人で開発(自分はAR試着の検証開発を担当)

7. 技術検証

8. そもそも可能なのか？ フェイストラッキング用のライブラリくらいあるでしょw →顔検知はある →Webで顔の姿勢推定ライブラリが少ない......。 8th Wallが5月末くらいに出していた →すでに自作路線にかじを切っていた Nuxt.jsで実装したい →3Dのコンテンツと相性悪そう...。

9. tfjs/facemesh MediaPipeのデモプロジェクトのひとつ？ 400個以上の顔の特徴点の 3次元座標を推定 デモプロジェクトがある 姿勢推定バックエンドは wasm/opengl/cpuで動作 スペックの高いモバイルなら軽快に動作

10. 実装したもの 一応作ったものは公開 https://github.com/faciop-cojt/faciop