Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Sign up for free
Menu
Search
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Pricing
Search
Sign in
Sign up for free
双曲空間と機械学習 〜 階層性を活かした学習〜 Hyperbolic Space and Ma...
Search
Sponsored
·
Ship Features Fearlessly
Turn features on and off without deploys. Used by thousands of Ruby developers.
→
Neurogica
May 14, 2026
Technology
64
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
双曲空間と機械学習 〜 階層性を活かした学習〜 Hyperbolic Space and Machine Learning ~ Learning that Leverages Hierarchical Structure ~
Neurogica
May 14, 2026
Transcript
9 slides
双曲空間と機械学習 株式会社ニューロジカ 開発部 美⿑津諒 双曲空間と機械学習 〜 階層性を活かした学習 〜
1. 機械学習と階層性 2. 双曲空間 3. 応⽤事例 a. Word Embedding b.
双曲空間版CLIP c. Transformer 4. まとめ アジェンダ アジェンダ 階層性 双曲空間 応⽤事例 まとめ © Neurogica Inc.
現実の概念には階層性が存在 • ⿃ → くちばし / ⽻⽑ • ⿃ →
オウム → クサビオインコ属 指数関数的に要素数が増える⽊構造 次元数に対し体積が多項式的に増えるユーク リッド空間 機械学習と階層性 アジェンダ 階層性 双曲空間 応⽤事例 まとめ ⿃ くちばし オウム クサビオインコ属 ウロコメキシコ インコ属 © Neurogica Inc.
双曲空間 • 外へ向かって広がる歪んだ空間.内積,距離 等の定義が異なる • 外側に向かって座標軸が詰まることで, ⽊構造に似た特徴的な座標系を構成 双曲空間 アジェンダ 階層性
双曲空間 応⽤事例 まとめ 図1.双曲空間における⼀様充填 ⽊構造と空間の特徴が整合 © Neurogica Inc.
Poincaré Embeddings for Learning Hierarchical Representations (NeurIPS 2017) [1] •
階層的なWord embeddingにおいて,ユークリッド空間(200次元)の 精度を双曲空間(5次元)が⼤幅に上回ると報告 応⽤事例 - Word Embedding タスク アジェンダ 階層性 双曲空間 応⽤事例 まとめ © Neurogica Inc.
Hyperbolic image-text representations (PMLR 2023) [2] 応⽤事例 - 双曲空間版CLIP アジェンダ
階層性 双曲空間 応⽤事例 まとめ Dog テキストは抽象概念,画像は詳細な概 念の階層性が存在 • "Dog" というテキストは多くの⽝ 画像を包含する上位概念 • CLIPはこの⾮対称な関係を無視 し、同じ点に埋め込もうとする • 双曲空間なら「テキストは原点寄 り(抽象)、画像は外側(具 体)」と⾃然に表現できる © Neurogica Inc.
Hyperbolic image-text representations (PMLR 2023) [2] • CLIPの共通空間を双曲空間で実装 • 画像分類タスク,Image
- Text retrievalタスクにおいて,従来のユークリッ ド的CLIPに⽐べ精度が改善することを報告 応⽤事例 - 双曲空間版CLIP アジェンダ 階層性 双曲空間 応⽤事例 まとめ © Neurogica Inc.
機械学習と階層性 • 現実の概念には階層性があり、⽊構造は指数的に成⻑ 双曲空間 • 双曲空間は体積が指数的に増えるため、⽊構造と⾃然に整合 応⽤事例 • Poincaré Embeddings:双曲5次元がユークリッド200次元を上回る
• MERU:画像-テキスト間の抽象度の階層を双曲空間で表現し、CLIPの 性能を改善 まとめ アジェンダ 階層性 双曲空間 応⽤事例 まとめ © Neurogica Inc.
[1] Nickel, Maximillian, and Douwe Kiela. "Poincaré embeddings for learning
hierarchical representations." Advances in neural information processing systems 30 (2017). [2] Desai, Karan, et al. "Hyperbolic image-text representations." International Conference on Machine Learning. PMLR, 2023. 参考⽂献 アジェンダ 階層性 双曲空間 応⽤事例 まとめ © Neurogica Inc.
More Decks by Neurogica
See All by Neurogica
時系列予測の100年と、これから A Century of Time Series Forecasting, and What Comes Next
neurogica
0
27
MapReduceを読む - 大量データを分担する Understanding MapReduce — Distributing Large-Scale Data Processing
neurogica
0
26
Sparse Autoencoder 〜 大規模言語モデルの内部表現を読む 〜 Sparse Autoencoder: Understanding LLM's Latent Representations
neurogica
0
70
LLMは“⼼”をモデル化しているのか? Do LLMs Model the Mind?
neurogica
0
26
LLM-MAS×時系列予測 LLM-MAS × Time-Series Forecasting
neurogica
0
60
推薦タスクの整理と 時系列基盤モデル活用を考える How Recommender Systems Use Time-Series Data and Where Foundation Models Fit
neurogica
0
26
画像生成AIの生成速度の遅さと 画風のばらつきを解決する手法 Methods for Solving Image Generation AI's Slowness and Style Inconsistency
neurogica
0
31
DBコネクションプール Database Connection Pooling
neurogica
0
77
時系列基盤モデルは作れるのか? Can We Build a Foundation Model for Time Series?
neurogica
1
140
Other Decks in Technology
See All in Technology
業務の傍らで進める改善ループエンジニアリング
bengo4com
1
230
AWS DevOps Agentの構造から読み解く運用 AI エージェントの設計原則/aws-devops-agent-design-principles
tomoki10
0
230
CloudTrail を推したい
kazzpapa3
1
160
変更差分を読むために環境を整備しよう
pipepasta
1
650
認知負荷の減らし方 ~開発にも日常業務にも活かせるノウハウ~
minorun365
PRO
15
9.6k
20261113_AWS Organizations運用を下支えするCFn StackSetsの柔軟性
dkduppf
0
110
New Relicのアラート対応をClaude Codeで自動修正するワークフローを作った話
manabuseki
0
210
飯から始まるデータエンジニア
sansantech
PRO
0
130
統制されたID・権限をどう利用するか : DPoP/FAPIによるAPIセキュリティ強化
oidfj
2
280
異夢同船〜異なる夢でも同じ船でなんとかする〜
fortegp05
1
580
ブース設計、 お前もプロダクトだったのか / So Booth Design Was a Product All Along
akihiro0038
0
140
Amazon Bedrock AgentCore の基礎とセキュリティ・ガバナンス
ren8k
0
250
Featured
See All Featured
Self-Hosted WebAssembly Runtime for Runtime-Neutral Checkpoint/Restore in Edge–Cloud Continuum
chikuwait
0
960
The Organizational Zoo: Understanding Human Behavior Agility Through Metaphoric Constructive Conversations (based on the works of Arthur Shelley, Ph.D)
kimpetersen
PRO
0
540
YesSQL, Process and Tooling at Scale
rocio
174
15k
Creating an realtime collaboration tool: Agile Flush - .NET Oxford
marcduiker
35
2.6k
Test your architecture with Archunit
thirion
2
2.5k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
234
18k
Side Projects
sachag
456
43k
GitHub's CSS Performance
jonrohan
1033
470k
How Software Deployment tools have changed in the past 20 years
geshan
3
35k
Discover your Explorer Soul
emna__ayadi
2
1.3k
What the history of the web can teach us about the future of AI
inesmontani
PRO
3
830
Balancing Empowerment & Direction
lara
6
1.4k