Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
論文解説 CVPR2022 NeRF関連
Search
koharite
July 28, 2022
Research
0
70
論文解説 CVPR2022 NeRF関連
Presentation for explaining NeRF-related papers presented at CVPR2022.
koharite
July 28, 2022
Tweet
Share
More Decks by koharite
See All by koharite
論文解説 Is Ego Status All You Need for Open-Loop End-to-End Autonomous Driving?
koharite
0
9
論文解説 DiLu: A Knowledge-Driven Approach to Autonomous Driving with Large Language Models
koharite
0
47
論文解説 EfficientViT: Memory Efficient Vision Transformer with Cascaded Group Attention
koharite
0
210
論文解説 CoCa: Contrastive Captioners are Image-Text Foundation Models
koharite
0
520
論文解説 LoRA : Low Rank Adaptation of Large Language Models
koharite
1
1.4k
論文解説 ControlNet
koharite
1
5.1k
論文解説 InstructGPT : Training language models to follow instructions with human feedback
koharite
4
2.6k
論文解説 Latent Diffusion Model
koharite
0
2.9k
論文解説 Mask2Former
koharite
6
1.4k
Other Decks in Research
See All in Research
[第55回 NLPコロキウム] コンピュータビジョン分野での評価設計と分析の研究について
otani_mayu
0
120
SSII2024 [TS1] 生成AIと3次元ビジョン ~3次元生成AIの最先端の理論~
ssii
PRO
1
980
ICLR2024 LLMエージェントの研究動向
masatoto
13
9.1k
方策の長期性能に対する効率的なオフライン評価・学習 (Long-term Off-Policy Evaluation and Learning)
usaito
PRO
2
410
SSII2024 [TS3] 画像認識におけるマルチモーダル基盤モデル ~基盤モデル、あなたのタスクに役立つかも?~
ssii
PRO
0
810
Minimum Bayes-Risk Decoding における性能変動の理解に向けて(2024年6月5日 第59回 NLPコロキウム)
atsumoto
0
210
LLMとの共同執筆は文章の多様性を減らすか?
kuri8ive
3
690
SSII2024 [PD] SSII、次の30年への期待
ssii
PRO
2
1.3k
第60回名古屋CV・PRML勉強会:CVPR2024論文紹介(AM-RADIO)
naok615
0
120
AIが非ヒト動物に与える有益・有害な影響の検討
takeshit_m
0
300
機械学習と最適化の融合動的ロットサイズ決定問題を例として
mickey_kubo
2
360
The past, present, and future of local-first
ept
0
390
Featured
See All Featured
Thoughts on Productivity
jonyablonski
64
4.1k
A Philosophy of Restraint
colly
200
16k
Java REST API Framework Comparison - PWX 2021
mraible
PRO
20
7.2k
Cheating the UX When There Is Nothing More to Optimize - PixelPioneers
stephaniewalter
277
13k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
34
1.9k
How GitHub (no longer) Works
holman
305
140k
What’s in a name? Adding method to the madness
productmarketing
PRO
21
2.9k
Embracing the Ebb and Flow
colly
81
4.3k
The Pragmatic Product Professional
lauravandoore
29
6.1k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
502
140k
10 Git Anti Patterns You Should be Aware of
lemiorhan
652
58k
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
189
16k
Transcript
論⽂解説 CVPR2022 NeRF関連 Takehiro Matsuda
2 CVPRの近年の注⽬Keywordの遷移 【学会聴講報告】CVPR2022からみるVision最先端トレンド より https://www.youtube.com/watch?app=desktop&v=SeioHA14ND8&feature=youtu.be
3 NeRF デモ動画 https://www.matthewtancik.com/nerf 対象の任意視点からの画像を⾼精細に得られる。 ぱっと⾒て気になるレベルのHoleやArtifactが 画像に表れていない。
4 3次元情報の表現 ボクセル ピクセルを3次元に拡張 ◦ 2次元画像処理からの拡張が容易 × メモリ消費量が多く、2563くらいが限界 点群 点の集合で3次元シーンを表現
◦ ボクセルよりコンパクト(物体表⾯のみを表現) × ⾯を表現できない × DNNで扱うのがやや難しい
5 3次元情報の表現 メッシュ 三⾓形(多⾓形)の貼り合わせで3Dシーンを表現 ◦ メモリが少なくて良い × メッシュの張り合わせが職⼈的 × DNNで扱うのが難しい
Neural Field 3次元座標pをニューラルネットワークfに与え、f(p)がモノがあるか、⾊、etc.などを表すようにす る。 ◦ コンパクトかつ柔軟(NNは形状が複雑なところの表現に多数のパラメータを使おうとするはず) ◦ DNNと組み合わせるのが容易 × レンダリングが遅い(多数の点をDNNで推論する必要がある) × 与えた範囲(シーン)ごとにネットワークを学習する必要がある × ⼈⼿での編集が難しい
6 NeRF
7 NeRF Neural Radiance Field 𝜎 = 𝑁𝑁!(𝑥, 𝑦, 𝑧)
𝑐 = 𝑁𝑁"(𝑥, 𝑦, 𝑧, 𝜃, 𝜙) 3D座標 モノがありそ う度 3D座標, 視線⽅向 ⾊ In essence, they take the DeepSDF architecture but regress not a signed distance function, but density and color.
8 NeRFによる⾃由視点の再現 液晶ディスプレイの映り込み、反射が視線により変わることを再現 できている
9 NeRF flow ① 学習画像からピクセルを選ぶ ② ピクセルを通る光線上でサンプリングし、その点のモノ がある度と⾊をNNにクエリする。 ③ カメラから出発し、ピクセルに向かって進み、どのあた
りでモノにぶつかるかの確率分布を計算する ④ ピクセルの⾊の期待値を計算する ⑤ GTのピクセルの⾊に近づくようにNNの学習を進める ① ② ③ ④ ⑤
10 NeRF in CVPR 2022 • Block-NeRF NeRFによる⼤規模な範囲の⽣成(サンフランシシコのある地区) • Plenoxels
ニューラルネットワークを使わずに微分可能ボリュームレンダリングの アーキテクチャで⾼速な⾃由視点画像⽣成が可能 CVPR2022で発表された2つの論⽂を紹介する
11 Block-NeRF デモ動画 https://waymo.com/research/block-nerf/
12 Block-NeRF Waymo(Google) carの360度Viewで⼤量の画像を撮影する。 対象:San Francisco Alamo Square Neighbor (960x570m)
各Block-NeRFは下記で学習 18-28分のドライブ 38-48の異なる⾛⾏データ 64575-108216画像
13 Block-NeRF Architecture NeRF-W(NeRF in the Wild)の⼿法導⼊ 天候やライティングの変化などのAppearanceの違いを 別にできる Lighting
and whether change Exposure change mip-NeRFをベースにする: incorporating anti-aliasing for multiscale rendering 観光客がそれぞれ撮影したような画像から学習できる⼿法 Appearance Embedding, Exposure Embeddingの導⼊
14 Appearance Embedding 推論時に変化させて、レンダリングも可能 Appearance Embeddingにより⽇時の違いが あってもクリアなレンダリングを⾏える。
15 移動物体へのマスク セグメンテーションモデル(Panoptic-deeplab)で移動物体(⾞や⼈)を検出しマスクをかける
16 Block-NeRFsの統合 街全体の画像再現をするため、35個 のBlock-NeRFsを統合する。 Visibilityを出⼒するネットワーク VisibilityがOKのNeRFをAppearnce Matthingをした上で、距離の逆数の重みで統合する
17 Ablation study Learned pose refinement 原論⽂のReferences[34,59,66,70]
18 Plenoxels デモ動画
19 Plenoxels Our results show that the key component in
NeRF is the differentiable volumetric rendering, not the neural network. NeRFでは1GPUで学習に1⽇以上、レンダリングに1フレームあたり30秒以上かかる
20 Plenoxels Flow Voxel opacitiesとSpherical harmonic coefficientsを最適化する。 Plenoxels represent a
scene as a sparse 3D grid with spherical harmonics. Plenoptic voxels: 近傍のVoxel 球⾯調和関数:各視点での⾊の ⾒え⽅を表現する関数とする? 3次元での近傍からの補間処理
21 Optimization 推論画像とGTのMSE RMSPropを⽤いて最適化計算 ∆2x(v, d) shorthand for the squared
difference between the dth value in voxel v := (i, j, k) and the dth value in voxel (i + 1, j, k) Total Variation正則化
22 Result 8 synthetic scenes 8 real, forward- facing scenes
4 real, 360° scenes
23 参考⽂献 • NeRF https://www.matthewtancik.com/nerf • Block-NeRF https://waymo.com/research/block-nerf/ • Plenoxels
https://alexyu.net/plenoxels/ • SSII2022 [SS1] ニューラル3D表現の最新動向〜 ニューラルネットでなんでも表せ る?? 〜 https://www.slideshare.net/SSII_Slides/ssii2022-ss1-3d • 【学会聴講報告】CVPR2022からみるVision最先端トレンド https://www.youtube.com/watch?app=desktop&v=SeioHA14ND8&feature=youtu.be • NeRF at CVPR 2022 https://dellaert.github.io/NeRF22/