2か月で軽率に WebARフェイスフィルターを作ってみた

2か月で軽率に WebARフェイスフィルターを作ってみたにー兄さん(ninisan_drumath) WebXR Tech Tokyo #2 @ cluster

agenda はじめに自己紹介キッカケ技術選定そもそも可能なのか

はじめに

にー兄さん(@ninisan_drumath) 筑波大学情報科学類3年(coins18) 3DCGが好き；3Dセンサ, VFX, xR, Humanoidアバター制御, ...などもっぱらUnity使い最近のマイブームはAzureKinect

きっかけ大学のチーム開発の授業(筑波大学COJT20) Webを用いたチーム開発をすることになる WebはよくわからないけどARはやりたい →むりやりWebARでなんか作ろうせっかくなのでコロナ時代の需要を考えたい

WebAR試着ができるサービス　Faciop Web上で顔につけるファッションアイテムを AR試着できるECサイトのプロトタイプ 3Dモデラーが作ったファッションアイテムを投稿、収益にできる 5月に発案、7月末に発表 2人で開発(自分はAR試着の検証開発を担当)

技術検証

そもそも可能なのか？フェイストラッキング用のライブラリくらいあるでしょw →顔検知はある →Webで顔の姿勢推定ライブラリが少ない......。 8th Wallが5月末くらいに出していた →すでに自作路線にかじを切っていた Nuxt.jsで実装したい →3Dのコンテンツと相性悪そう...。

tfjs/facemesh MediaPipeのデモプロジェクトのひとつ？ 400個以上の顔の特徴点の 3次元座標を推定デモプロジェクトがある姿勢推定バックエンドは wasm/opengl/cpuで動作スペックの高いモバイルなら軽快に動作

実装したもの一応作ったものは公開 https://github.com/faciop-cojt/faciop

にー兄さん