Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
XR Kaigi HoloLensの業務利用最前線 / XR Kaigi HoloLens 2 at HoloLab
Search
HoloLab
December 04, 2019
Technology
5
4.7k
XR Kaigi HoloLensの業務利用最前線 / XR Kaigi HoloLens 2 at HoloLab
2019/12/4 開催のXR Kaigiでのスライドです。
YouTube
https://www.youtube.com/watch?v=RtPZtElTWSQ
HoloLab
December 04, 2019
Tweet
Share
More Decks by HoloLab
See All by HoloLab
2021年のふりかえり / hololab-2021
hololab
1
1.4k
日本建築学会 情報シンポ2021 / AIJISA 2021
hololab
1
170
AR/VR/MRと3次元/BIMの取り組みご紹介 / SPAR2021
hololab
0
160
HoloLensで変わる行動のカタチ / Tech-on MeetUp Online 7
hololab
0
530
XR Kaigi 2021 ホロラボでのHoloLens 2アプリ 開発事例紹介 / XR Kaigi 2021
hololab
0
2k
HoloLensコミュニティ HoloMagiciansのご紹介 / DevRel Japan CONFERENCE
hololab
0
49
Azure Remote Renderingを活用した mixpace Remote Renderingのご紹介 / msdd2021 mrr
hololab
0
1.4k
第8回 全日本コンピュータビジョン勉強会 / Japan CV
hololab
0
990
リモートワークの課題をモブワークで解決する試み / Scrum Fest Osaka
hololab
1
2.3k
Other Decks in Technology
See All in Technology
チームでロジカルシンキングに改めて向き合っている話 〜学習環境と実践⽅法〜
sansantech
PRO
2
2.2k
開発パフォーマンスを最大化するための開発体制
ham0215
2
360
AOAI をきっかけに 社内の Azure 管理を見直した話
recruitengineers
PRO
1
280
「スニダン」開発組織の構造に込めた意図 ~組織作りはパッションや政治ではない!~
rinchsan
3
560
検証を通して見えてきたTiDBの性能特性
lycorptech_jp
PRO
6
3.7k
リテール金融(キャッシュレス・ネット銀行・ネット証券)の競争環境と経済圏
8maki
0
920
プロトタイピングによる不確実性の低減 / Reducing Uncertainty through Prototyping
ohbarye
5
380
VS CodeでAWSを操作しよう
smt7174
7
1.6k
現代CSSフレームワークの内部実装とその仕組み
poteboy
8
3.6k
Cloud Native Java with Spring Boot (CNCF Aarhus, April 2024)
thomasvitale
1
170
Tellus の衛星データを見てみよう #mf_fukuoka
kongmingstrap
0
190
TechFeed Experts Night#27 〜 フロントエンドフレームワーク最前線 (Svelte)
baseballyama
1
460
Featured
See All Featured
Code Reviewing Like a Champion
maltzj
514
39k
Music & Morning Musume
bryan
41
5.6k
KATA
mclloyd
15
12k
Web Components: a chance to create the future
zenorocha
305
41k
Building a Scalable Design System with Sketch
lauravandoore
456
32k
Rebuilding a faster, lazier Slack
samanthasiow
73
8.2k
Making the Leap to Tech Lead
cromwellryan
124
8.5k
Building Better People: How to give real-time feedback that sticks.
wjessup
355
18k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
227
16k
StorybookのUI Testing Handbookを読んだ
zakiyama
13
4.6k
Principles of Awesome APIs and How to Build Them.
keavy
121
16k
Agile that works and the tools we love
rasmusluckow
325
20k
Transcript
HoloLensの業務利用最前線 2019/12/04@XR Kaigi 株式会社ホロラボ 代表取締役 CEO 中村 薫
[email protected]
株式会社ホロラボ 事業内容 HoloLensやWindows MRなどxR技術やセンサー技術に関する ・システム/アプリケーションの企画開発 ・調査研究 ・普及啓発活動 設立 2017/01/18 住所
東京都品川区西五反田2-25-1 インテックス五反田ビル3F 資本金 96,940,000円 取締役 5名 従業員 26名 Web https://hololab.co.jp/ 会社概要 Copyright© HoloLab Inc. 2019 All rights reserved 2
アジェンダ •MRを理解する •HoloLens 2の事例 •HoloLens 2について Copyright© HoloLab Inc. 2019
All rights reserved 3
このセッションのゴール •HoloLens 2での事例を知ることができる •HoloLens 2のより詳細な特長を知ることができる Copyright© HoloLab Inc. 2019 All
rights reserved 4
MRを理解する Copyright© HoloLab Inc. 2019 All rights reserved 5
Mixed Reality (MR) MR(Mixed Reality) 6 https://en.wikipedia.org/wiki/Mixed_reality Real Environment Augmented
Reality (AR) Virtual Environment Augmented Virtuality (AV) Copyright© HoloLab Inc. 2019 All rights reserved
AR/VR/MR 7 Real world Computer generated Virtual Reality (VR) Augmented
Virtuality (AV) Augmented Reality (AR) Real Copyright© HoloLab Inc. 2019 All rights reserved Mixed Reality(MR)
RealとVirtualの度合い Copyright© HoloLab Inc. 2019 All rights reserved 9
Copyright© HoloLab Inc. 2019 All rights reserved 10
Copyright© HoloLab Inc. 2019 All rights reserved 12
AR/VR/MR 13 Real world Computer generated Virtual Reality (VR) Augmented
Virtuality (AV) Augmented Reality (AR) Real Copyright© HoloLab Inc. 2019 All rights reserved Mixed Reality(MR)
RealとVirtualの度合いによる変化 14 Real world Compute generated Augmented Virtuality (AV) Augmented
Reality (AR) Real Mixed Reality(MR) Virtual Reality (VR) Copyright© HoloLab Inc. 2019 All rights reserved
ホロラボから見た2019年 Copyright© HoloLab Inc. 2019 All rights reserved 15
概要 • デバイス • HoloLensに取り組む顧客が多かった • Magic Leap Oneの案件が出てきた •
業種 • 製造業の顧客が増えた • 建設業はPoCからPilotフェーズへの移行が進んだ • 期間が延びた(2018年度 ~6ヵ月、2019年度 ~12ヵ月) Copyright© HoloLab Inc. 2019 All rights reserved 16 Envisioning PoC Pilot Deploy Rollout 学ぶ機会 概念実証 顧客ネットワーク内 での実証 実導入 PCのように 自由に使える状態
利用デバイスの割合 Copyright© HoloLab Inc. 2019 All rights reserved 17 2018年
全51案件 2019年 全73案件 21件(41.2%) 21件(41.2%) 9件(17.6%) 49件(67.1%) 8件(11%) 4件(5.5%) 12件(16.4%)
顧客業種の割合 Copyright© HoloLab Inc. 2019 All rights reserved 18 21件(41.2%)
6件(11.8%) 1件(2%) 11件(21.6%) 12件(23.5%) 2018年 全51案件 2019年 全73案件 10件(13.7%) 11件(15.1%) 8件(11%) 11件(15.7%) 33件(45.2%)
顧客業種の数 Copyright© HoloLab Inc. 2019 All rights reserved 19
Biz App (UWP) Domain Knowhow MRアプリ開発に必要な要素 Copyright© HoloLab Inc. 2019
All rights reserved 20 3D Engine 3DCG / CAD
HoloLens 2事例 Copyright© HoloLab Inc. 2019 All rights reserved 22
先行事例のご紹介 • 製造業、インフラ業、建設業各社の事例をご紹介します • 先行研究開発、トレーニング、業務効率化 • 昨年からの時間軸でPoCの規模感もイメージできると思います Copyright© HoloLab Inc.
2019 All rights reserved 23
トヨタ自動車株式会社 Copyright© HoloLab Inc. 2019 All rights reserved 24
目的 • HoloLens 2への早期移植検討、MR x AIの実効性検証などトヨタ自動車 の試行を先進的な技術開発力で支援する Copyright© HoloLab Inc.
2019 All rights reserved 25
作業確認モレ防止(MR x AI) Copyright© HoloLab Inc. 2019 All rights reserved
26 試行中
課題 人間の目では多くの部品を一目で確認できないため、思い込み、 見落としが発生する →作業確認のモレを防ぎたい OK Error Copyright© HoloLab Inc. 2019
All rights reserved 27 試行中
機械学習モデルを作成してのエラー推定 Copyright© HoloLab Inc. 2019 All rights reserved 28 試行中
動画提供:トヨタ自動車株式会社
de:code 2019展示アプリの HoloLens 2化とSpectatorView Copyright© HoloLab Inc. 2019 All rights
reserved 29
HoloLens 2の主観視点 Copyright© HoloLab Inc. 2019 All rights reserved 30
試行中 動画提供:トヨタ自動車株式会社
Spectator Viewによる第三者視点 Copyright© HoloLab Inc. 2019 All rights reserved 31
試行中 動画提供:トヨタ自動車株式会社
変遷 Copyright© HoloLab Inc. 2019 All rights reserved 32 2019/1
~ 2019/3 PoC部分開発 • MR+AI 2019/5 de:codeデモアプリとして統合 ~ 2019/11 • HoloLens 2版 • SpectaroView対応 試行中
三菱重工マリンマシナリ株式会社 Copyright© HoloLab Inc. 2019 All rights reserved 33
MET過給機のトレーニングアプリ Copyright© HoloLab Inc. 2019 All rights reserved 34
目的 • MHI-MME過給機のコンセプト→メンテナンスのしやすさ • 社内だけでなくメンテナンス業者も触れるとこがポイント • メンテナンスマニュアル、メンテナンス動画の拡充をしている • その延長としてARのマニュアルを作り、より正確に作業を理解してもらう •
これによって作業の間違いを減らす • トレーニングをオンサイトでもできるように • 海外のメンテナンス業者が日本で集合研修したあと、現地に戻ってからの棚卸 • 海外に持っていくのは大変 Copyright© HoloLab Inc. 2019 All rights reserved 35
MET過給機のトレーニングアプリ Copyright© HoloLab Inc. 2019 All rights reserved 36 試行中
変遷 Copyright© HoloLab Inc. 2019 All rights reserved 37 2019/1
~ 2019/3 PoC部分開発 ・分解項目の一部分 2019/5 HoloLens 2ポーティングテスト ~ 2019/11 HoloLens 2版 • 分解項目全体 試行中
フォトグラメトリの試行 Copyright© HoloLab Inc. 2019 All rights reserved 38 MET過給機
アプリケーション化 3D CADデータからCGを作成 フォトグラメトリ 写真から3D CGを作成 アプリケーション化 ※MHI様にて試行 ※写真とモデルはイメージです
HoloLens 2への期待値 • トレーニングに留まらず、軽量化、装着性を踏まえると、 実作業での活用が目標にはなります Copyright© HoloLab Inc. 2019 All
rights reserved 39
株式会社JR東日本情報システム Copyright© HoloLab Inc. 2019 All rights reserved 40
転てつ機のトレーニングアプリ Copyright© HoloLab Inc. 2019 All rights reserved 41 試行中
目的 • 研修所に行かなくても実物のサイズ感で動き回りながらトレーニング ができること • 実体に近いものがあるので、会話しながらコツを伝える Copyright© HoloLab Inc. 2019
All rights reserved 42
構成 Copyright© HoloLab Inc. 2019 All rights reserved 43 同じ位置で同じ状況を共有する
Azure Spatial Anchors iPad/Android HoloLens 2
動画 Copyright© HoloLab Inc. 2019 All rights reserved 44 試行中
変遷 Copyright© HoloLab Inc. 2019 All rights reserved 45 2018/8
~ 2019/3 PoC開発 • 点検項目の一部分 ~ 2019/11 PoC開発 • HoloLens 2対応 • SpectaorView対応 2019/6 トレーニングテスト 試行中
トレーニングテスト時の感想(HoloLens 1) • 良い点 • 作業の流れをいつでも訓練できる • 紙のマニュアルで分かりづらい場所の動きが理解しやすい • 座学よりわかりやすい
• 紙の手順書では掘り出せなかった暗黙知がいろいろ出てくる • 改善点 • 手を動かすことによって工具を動かしたい • 長時間の使用は重くて疲れる Copyright© HoloLab Inc. 2019 All rights reserved 46
東急建設株式会社 Copyright© HoloLab Inc. 2019 All rights reserved 47
BIMデータの活用 Copyright© HoloLab Inc. 2019 All rights reserved 48 試行中
目的 • BIMを活用した施工や検査の効率化 • BIMの設計データを現実に重ねることで差異を見つけやすくする • BIMデータのプロパティを活用することで情報を素早く得る Copyright© HoloLab Inc.
2019 All rights reserved 49
BIMデータの活用 Copyright© HoloLab Inc. 2019 All rights reserved 50 試行中
HoloLens 2への期待 • まず、視野の広さ、容量の大きさ、操作感には非常に期待しています。 • 今までよりも没入感が向上し、使用出来なかった容量のデータが扱え ることや、iPhoneのように説明が不要な操作感が普及に繋がると考え ます。 • また、今後の期待値として精度(個体差等の改善含む)の向上、
外部環境(炎天下、雨天等)での利用が可能となる事、 普及のためのコスト低減に期待しております。 Copyright© HoloLab Inc. 2019 All rights reserved 51
HoloLensプロジェクトを上手に進める Copyright© HoloLab Inc. 2019 All rights reserved 52
顧客における課題の共通項 • 生産性向上 • 労働人口の減少 • 労働者の高齢化 • 教育時間の減少 •
などなど Copyright© HoloLab Inc. 2019 All rights reserved 53
進みやすいケース • 顧客側に取りまとめ役の存在 • 社内の理解 • 現場の方の協力 • HoloLensは現場の方の業務を助けるデバイス Copyright©
HoloLab Inc. 2019 All rights reserved 54
ブロック要素 • 顧客担当の変更 • 社内ネットワークへの導入 • セキュリティ要件 • MDM(Mobile Device
Management) Copyright© HoloLab Inc. 2019 All rights reserved 55
HoloLensがうまくハマるケース • トレーニング • 現場作業支援 • マニュアル • レガシーな作業、モノに対してのマニュアル Copyright©
HoloLab Inc. 2019 All rights reserved 56
HoloLens 2について Copyright© HoloLab Inc. 2019 All rights reserved 57
概要 • 2019年11月7日に出荷開始(日本含む) • 買い切りモデルで$3,500/38万3800円(税抜) Copyright© HoloLab Inc. 2019 All
rights reserved 58
特長 • 表示エリア面積2倍 • 16:9から3:2になったため、縦の伸びが大きい • かぶりやすさ3倍 • 数千人の頭のデータを取得し構造を作成、ユーザーテストの結果HoloLens 2の
方がかぶりやすいと答えた人がHoloLens 1の3倍とのこと Copyright© HoloLab Inc. 2019 All rights reserved 59
表示エリア Copyright© HoloLab Inc. 2019 All rights reserved 60
表示エリア Copyright© HoloLab Inc. 2019 All rights reserved 61 •
2m先にCUBEを配置したアプリをHoloLens 1 / HoloLens 2に配置
表示エリア • Mixed Reality Captureでは実際に見える範囲より広く撮影されるため、 HoloLensにカメラをあてて撮影(今回はiPhoneで撮影) Copyright© HoloLab Inc. 2019
All rights reserved 62
表示エリア(HoloLens 2) • 2m先にCUBEを配置 Copyright© HoloLab Inc. 2019 All rights
reserved 63 左目 右目 20cm (Unity単位) 160cm 100cm
表示エリア(HoloLens 1/HoloLens 2) • 2m先にCUBEを配置 Copyright© HoloLab Inc. 2019 All
rights reserved 64 20cm (Unity単位) 約105cm HoloLens 1(右目) HoloLens 2 (右目) 20cm (Unity単位) 160cm 100cm 約60cm
表示エリア(HoloLens 1/HoloLens 2) • 1m先にCUBEを配置 Copyright© HoloLab Inc. 2019 All
rights reserved 65 HoloLens 1(右目) 20cm (Unity単位) 約80cm 20cm (Unity単位) 約56cm HoloLens 2 (右目) 約25cm 約45cm
モデルの見え方 Copyright© HoloLab Inc. 2019 All rights reserved 66 HoloLens
1 HoloLens 2
かぶりやすさ Copyright© HoloLab Inc. 2019 All rights reserved 67
かぶりやすさ Copyright© HoloLab Inc. 2019 All rights reserved 68 •
多くの頭のサイズから開発し、ユーザーの総合評価で3倍とのこと • 重量バランスが改善されたため、重さの変化は少ないが軽く感じる • HoloLens 1/570g → HoloLens 2/566g
仕様と新機能 Copyright© HoloLab Inc. 2019 All rights reserved 69
仕様概要 コンピューター SOC Qualcomm Snapdragon 850 HPU 第 2 世代
オーダーメイド ホログラフィック処理装置 メモリ 4 GB ストレージ 64 GB Wi-Fi Wi-Fi: Wi-Fi 5 (802.11ac 2x2) Bluetooth 5.0 USB USB Type-C サイズ 重量 566 g メガネ メガネの上に装着可能 バッテリー バッテリー駆動時間 2 ~ 3 時間 (連続使用の場合) 充電 USB-PD (急速充電の場合) Copyright© HoloLab Inc. 2019 All rights reserved 70 https://www.microsoft.com/ja-jp/hololens/hardware
新機能 • Hand tracking • Eye tracking • Windows Hello(虹彩認証)
• USBホスト機能 • キーボード、マウス、有線LAN、USBメモリなどが有線で接続可能 • (ARM CPUのためか)デバイスドライバがないものもあるので、事前に確認する こと Copyright© HoloLab Inc. 2019 All rights reserved 71
USBキーボード/マウス Copyright© HoloLab Inc. 2019 All rights reserved 72
新しいワークスタイル Copyright© HoloLab Inc. 2019 All rights reserved 73
USBメモリ Copyright© HoloLab Inc. 2019 All rights reserved 74
USB有線LAN Copyright© HoloLab Inc. 2019 All rights reserved 75
USBハブ Copyright© HoloLab Inc. 2019 All rights reserved 76 •
USBハブ経由での充電も可能
QRコードの読み取り Copyright© HoloLab Inc. 2019 All rights reserved 77
Hand Mesh/Hand Joint Copyright© HoloLab Inc. 2019 All rights reserved
78
Hand Mesh/Hand Joint Hand Joint Hand Mesh あり なし あり
なし Copyright© HoloLab Inc. 2019 All rights reserved 79
Hand Mesh/Hand Joint Copyright© HoloLab Inc. 2019 All rights reserved
80
Render from Camera Copyright© HoloLab Inc. 2019 All rights reserved
83
Render from Camera Copyright© HoloLab Inc. 2019 All rights reserved
84 • Mixed Reality Capture撮影時にカメラとアプリ描画のズレを補正する • 撮影時のチェックとコードでの設定追加により有効化される • コード部分はMRTK v2.2.0で対応予定
Render from Camera Copyright© HoloLab Inc. 2019 All rights reserved
85 Render from Camera 無効 Render from Camera 有効
Render from Camera Copyright© HoloLab Inc. 2019 All rights reserved
86 https://github.com/MicrosoftDocs/mixed-reality/blob/master/mixed-reality-docs/mixed-reality-capture-for-developers.md#enabling-improved-alignment-for-mrc-in-your-app コード側の準備 // MRCでのカメラ映像とアプリの描画のずれをなくす var display = Windows.Graphics.Holographic.HolographicDisplay.GetDefault(); var viewConfiguration = display.TryGetViewConfiguration( Windows.Graphics.Holographic.HolographicViewConfigurationKind.PhotoVideoCamera); if (viewConfiguration == null) { Debug.LogWarning("ViewConfiguration is not available."); return; } viewConfiguration.IsEnabled = true; // Lighting/Environment/SkyBoxMaterialを無効にする。 // 有効なままRenderFromCameraを使用すると,MRCにSkyBoxが映り込む。 if (disableSkyBoxMaterial) { RenderSettings.skybox = null; }
Eye Tracking Copyright© HoloLab Inc. 2019 All rights reserved 87
アイトラッキング • 視線がとれるので目を使った操作が可能 • 個人的には慣れないので結構疲れる • 一般的に販売されているグラス型アイトラッキングデバイスと比べて 価格が非常に安い Copyright© HoloLab
Inc. 2019 All rights reserved 88
Eye tracking Copyright© HoloLab Inc. 2019 All rights reserved 90
Eye tracking Copyright© HoloLab Inc. 2019 All rights reserved 91
視線調整 Copyright© HoloLab Inc. 2019 All rights reserved 92 •
アイトラッキングを行うときは視線のキャリブレーションをしておく • 設定 → システム → 調整 → 視線調整の実行
性能(参考情報) Copyright© HoloLab Inc. 2019 All rights reserved 94
性能(参考情報) • 体感でFPSがおおよそ1.5倍から2倍に向上 • ARM32とARM64でも性能に大きな違いはなさそう Copyright© HoloLab Inc. 2019 All
rights reserved 95 HoloLens 1(x86) + Unity2019 • およそ25FPS HoloLens 2(ARM32) + Unity 2019 • およそ35~40FPS
まとめ • HoloLens 2ハードウェアは順当に進化をしている • HoloLens 1のときから期待をして投資を行っている企業が実運用 フェーズ目指して進んでいる Copyright© HoloLab
Inc. 2019 All rights reserved 96
None
そう!あの日ですよ!ということで豪華3本立て! 1月18日が何か覚えてますか? ◼ HoloLens 2 HackDay2019 in Tokyo 2020/01/17 13:00
~17:00 ✓ HoloLens 2 ハックできちゃいます! ✓ https://hololens.connpass.com/event/157969/ ◼ Tokyo HoloLens ミートアップ vol.19 2020/01/17 19:00 ~22:00 日本上陸3周年&Holo2発売記念! ✓ 豪華ゲスト陣の登壇と宴! ✓ https://hololens.connpass.com/event/157968/ ◼ HoloLens 2 体験会 in Tokyo 2020/01/18 10:00 ~18:00 ✓ HoloLens 2 体験できちゃいます! ✓ https://hololens.connpass.com/event/157976/