Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
HandGestureTool for AppleVisionPro
Search
Cova8bitdots
June 26, 2024
Programming
0
110
HandGestureTool for AppleVisionPro
- Describe HandGestureTool for AppleVisionPro
- Released on UnityAssetStore
Cova8bitdots
June 26, 2024
Tweet
Share
More Decks by Cova8bitdots
See All by Cova8bitdots
Latest_Information_of_CICD_for_UnityAppWithAppleVisionPro
cova8bitdots
0
75
NinjaGazeTyping 制作秘話
cova8bitdots
0
320
UnityとGoogleCloudFunction を連携して社内サービスを作った話
cova8bitdots
0
180
Unity-chan.Terrastal!!
cova8bitdots
0
420
ExampleOfTilemap2D
cova8bitdots
0
140
unity_lt_2021_Dec.pdf
cova8bitdots
0
850
HowToUseAudioMixer
cova8bitdots
0
150
TrapOfSpriteAtlas
cova8bitdots
0
5.2k
StudyUnityFromAnti-pattern
cova8bitdots
0
2.4k
Other Decks in Programming
See All in Programming
テストカバレッジ100%を10年続けて得られた学びと品質
mottyzzz
2
590
AIと私たちの学習の変化を考える - Claude Codeの学習モードを例に
azukiazusa1
10
4.1k
Testing Trophyは叫ばない
toms74209200
0
870
テストコードはもう書かない:JetBrains AI Assistantに委ねる非同期処理のテスト自動設計・生成
makun
0
270
ぬるぬる動かせ! Riveでアニメーション実装🐾
kno3a87
1
220
プロパティベーステストによるUIテスト: LLMによるプロパティ定義生成でエッジケースを捉える
tetta_pdnt
0
330
知っているようで知らない"rails new"の世界 / The World of "rails new" You Think You Know but Don't
luccafort
PRO
1
140
GitHubとGitLabとAWS CodePipelineでCI/CDを組み比べてみた
satoshi256kbyte
4
230
JSONataを使ってみよう Step Functionsが楽しくなる実践テクニック #devio2025
dafujii
1
530
Ruby Parser progress report 2025
yui_knk
1
440
AI時代のUIはどこへ行く?
yusukebe
18
8.9k
Design Foundational Data Engineering Observability
sucitw
3
200
Featured
See All Featured
Bash Introduction
62gerente
615
210k
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
18
1.1k
For a Future-Friendly Web
brad_frost
180
9.9k
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
44
2.5k
The Language of Interfaces
destraynor
161
25k
It's Worth the Effort
3n
187
28k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
507
140k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
34
3.1k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
126
53k
Faster Mobile Websites
deanohume
309
31k
Java REST API Framework Comparison - PWX 2021
mraible
33
8.8k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
36
2.5k
Transcript
visionOS engineer オンラインLT会 vol.6 PolySpatial 向け HandGesture ライブラリを製作した話 2024/06/26
登壇者情報 Graf fi ty(ג) ॴଐUnityΤϯδχΞ ઐྖҬɿαϯυϓϩάϥϛϯά UnityΛத৺ͱͨ͠ใൃ৴ͳͲΛߦ͍ͬͯ·͢ɻ 2 visionOS engineer
オンラインLT会 vol.5 著書&査読協 力 @8bitdots https://qiita.com/Cova8bitdot @cova8bit.bsky.social
None
Apple Vision Pro 専 用 タイピングゲーム『Ninja Gaze Typing 』 4
プロダクト紹介 - Ninja Gaze Typing
Apple Vision Pro 専 用 タイピングゲーム 『Ninja Gaze Typing 』
5 プロダクト紹介 - Ninja Gaze Typing WWDCの基調講演 visionOS説明部分にて アイコンが掲載されました
目 次 1. Hand Gesture Tool for Apple Vision Pro
の紹介 2. 製作にあたって遭遇した技術的課題
目 次 1. Hand Gesture Tool for Apple Vision Pro
の紹介 2. 製作にあたって遭遇した技術的課題
Unity のAssetStore でPolySpatial向けのハンドジェスチャーライブラリをリリースしました Hand Gesture Tool for Apple Vision Pro
の紹介 https://assetstore.unity.com/packages/tools/input-management/hand-gesture-tool-for-apple-vision-pro-287273
Unity のAssetStore でPolySpatial向けのハンドジェスチャーライブラリをリリースしました Hand Gesture Tool for Apple Vision Pro
の紹介 https://assetstore.unity.com/packages/tools/input-management/hand-gesture-tool-for-apple-vision-pro-287273
ライブラリの特徴 Hand Gesture Tool for Apple Vision Pro の紹介
ライブラリの特徴 Hand Gesture Tool for Apple Vision Pro の紹介 Q.
あれ?Unity公式がハンドジェスチャー ライブラリ出してませんでしたっけ?
GWあたりに公開されたXRHand1.4.x から HandGesture アセット作成機能が追加されました。が、実装済みの機能は少ないです Hand Gesture Tool for Apple Vision
Pro の紹介 指の条件設定 HandShape Asset 指の形以外の条件設定 HandPoseAsset
今回作ったライブラリはUnity公式のライブラリに 比 べて以下の改善点があります Hand Gesture Tool for Apple Vision Pro
の紹介 1. カスタム条件を作成可能 • Unity公式は現状指の曲げ具合のみ 2. ポーズを複数組み合わせてモーションの検知が可能 • Unity公式は現状シンプルなポーズ検知のみ • 製作したライブラリ • ビームの構え→発射のようなシーケンシャルな ジェスチャーを設定可能 3. UnityEditor上で設定した 手 のポーズを確認可能 • Inspector 上で設定条件を反映した 手 のモデルを表 示 します
目 次 1. Hand Gesture Tool for Apple Vision Pro
の紹介 2. 製作にあたって遭遇した技術的課題
製作中に遭遇した思わぬ落とし 穴 15 製作にあたって遭遇した技術的課題 1. 定義にあるはずのボーン(関節)が無い! 2. 定義にないはずのボーン(関節)がある!
製作中に遭遇した思わぬ落とし 穴 16 製作にあたって遭遇した技術的課題 1. 定義にあるはずのボーン(関節)が無い! 2. 定義にないはずのボーン(関節)がある!
定義にあるはずのボーン(関節)が無い! 17 製作にあたって遭遇した技術的課題 XRHand では各種指の関節以外に以下の関節情報が取得できます • Palm( 手 のひら) •
Metacarpal( 手 の甲の根本の関節) • Wrist( 手 首 )
定義にあるはずのボーン(関節)が無い! 18 製作にあたって遭遇した技術的課題 XRHand では各種指の関節以外に以下の関節情報が取得できます • Palm( 手 のひら) •
なんとVisionOS側からは取れない! • https://varrall.substack.com/p/hand-tracking-in-visionos • 下記画像の通りそもそも定義がVisionOSにはない • Unity.XRHand は様々なXR系デバイスを横断的に利 用 可能にするため このような事象が起きる
定義にあるはずのボーン(関節)が無い! 19 製作にあたって遭遇した技術的課題 XRHand では各種指の関節以外に以下の関節情報が取得できます • Palm( 手 のひら) •
なんとVisionOS側からは取れない! • https://varrall.substack.com/p/hand-tracking-in-visionos • 下記画像の通りそもそも定義がVisionOSにはない • Unity.XRHand は様々なXR系デバイスを横断的に利 用 可能にするため このような事象が起きる • Palmの位置や 方 向はジェスチャーにはかなり重要な情報 • 対策 • 他の関節から推測する • 手首 →親指の付け根 方 向ベクトルと 手首 →中指の付け根 方 向ベクトルの外積から求める • 手 のひら周辺の関節の平均(重 心 )で代 用
製作中に遭遇した思わぬ落とし 穴 20 製作にあたって遭遇した技術的課題 1. 定義にあるはずのボーン(関節)が無い! 2. 定義にないはずのボーン(関節)がある!
定義にないはずのボーン(関節)がある! 21 製作にあたって遭遇した技術的課題 VisionOS 側は • 25: 手首 →肘 方
向を 示 す .handForearmWrist • 26: 肘関節を 示 す .handForearmArm があります。 一方 XRHandにはこの定義がありません! が、PolySpatial SDKを調べると独 自 のEnumが 定義されており、これを無理やり XRHandJointID 型としてキャストして使うことでBone情報を 取得可能です。 https://docs.unity3d.com/Packages/
[email protected]
/api/ UnityEngine.XR.VisionOS.VisionOSHandJointID.html
まとめ • HandGesture を使ったコンテンツ開発のための専 用 ツールを開発・リリースしました • https://assetstore.unity.com/packages/tools/input-management/hand-gesture-tool-for-apple-vision-pro-287273 • HandGestureをそのまま実現しようとすると関節情報をがっつり
色 々計算しないと難しいです • 本ツールは 面 倒な計算部分を肩代わりし、 非 エンジニアでもポーズを簡単に作れるように 設計しています • 実機で動作確認しないとわからないという開発フロー改善のため Editor上でのポーズ確認が出来るのが 非 常に 大 きいです 22 最後に
Hand Gesture Tool for Apple Vision Pro ぜひご活 用 ください
最後に https://assetstore.unity.com/packages/tools/input-management/hand-gesture-tool-for-apple-vision-pro-287273