Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Sign up for free
Menu
Search
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Pricing
Search
Sign in
Sign up for free
OpenTalks.AI - Александр Артеменков, Towards Sc...
Search
OpenTalks.AI
February 21, 2020
Science
2.2k
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
OpenTalks.AI - Александр Артеменков, Towards Scalable Dimensionality Reduction via Noise Contrastive Estimation
OpenTalks.AI
February 21, 2020
Transcript
14 slides
Towards Scalable Dimensionality Reduction Aleksandr Artemenkov joint work with Maxim
Panov via Noise Contrastive Estimation
News Headlines Of India 3 million topics you are unfamiliar
with Kaggle Dataset
None
Just repeat 3 million times! (not a good idea)
Is there a better approach? (visualization)
None
Noise Contrastive Estimation (without a single formula) (check out the
poster for them)
Building Representation “cold” “frosty” “cold” “warm” “cold” “first” similar different
unrelated (noisy) ? ? ?
Simple Insight • similar points = closer than predefined noisy
distance • different points = further than predefined noisy distance Any benefits from such approach?
Parallelized Batch Optimization • noisy distance is predefined • repel
different points • attract similar points • adjustments are independent of each other to distinguish them from noise Meet NCVis! (Noise Contrastive Visualization) GitHub Repository
Why use NCVis? (there are reasons) Paper
None
None
Thank you for your attention! (find me near the poster)
More Decks by OpenTalks.AI
See All by OpenTalks.AI
OpenTalks.AI - Виктор Лемпицкий, Моделирование 3Д сцен: новые подходы в 2020 году
opentalks
0
510
OpenTalks.AI - Алексей Чернявский, Нейросетевые алгоритмы для повышения качества медицинских изображений
opentalks
0
460
OpenTalks.AI - Александр Громов, Устойчивость нейросетевых моделей при анализе КТ/НДКТ-исследований
opentalks
0
390
OpenTalks.AI - Денис Тимонин, Megatron-LM: Обучение мультимиллиардных LMs при помощи техники Model Parallelism
opentalks
0
550
OpenTalks.AI - Егор Филимонов, Возможности платформы Huawei Atlas и эффективный гетерогенный инференс.
opentalks
0
200
OpenTalks.AI - Александр Прозоров, Референсная архитектура робота сервисного центра в отраслях с изменчивыми бизнес-процессами
opentalks
0
410
OpenTalks.AI - Наталья Лукашевич, Анализ тональности по отношению к компании — с чем не справился BERT
opentalks
0
350
OpenTalks.AI - Константин Воронцов, Фейковые новости и другие типы потенциально опасного дискурса: типология, подходы, датасеты, соревнования
opentalks
0
470
OpenTalks.AI - Дмитрий Ветров, Фрактальность функции потерь, эффект двойного спуска и степенные законы в глубинном обучении - фрагменты одной мозаики
opentalks
0
510
Other Decks in Science
See All in Science
[Relay webinaire eBIS actu n°16] Sélection pour la vitalité des jeunes bovins allaitants et laitiers
institutdelelevage
PRO
0
370
サンプル対応のない複数遺伝子発現プロファイルに対するテンソル分解型統合解析の要約
tagtag
PRO
0
290
Засідання студентського наукового гуртка «Садово-паркове господарство»
mariiabarkan12
0
110
AWS WAFのAIトラフィック収益化機能を考えてみる_20260626
masakiokuda
1
140
TypeScript で WebAssembly を用いた 型安全なプラグイン設計
nagano
3
700
J-STAGE全文XML登載必須化について
xspa2012
0
1.7k
データベース09: 実体関連モデル上の一貫性制約
trycycle
PRO
0
1.9k
Collective Predictive Coding Hypothesis: Emergence of Language and Cooperative Behaviors
tanichu
0
250
ゲームと人工知能
miyayou
0
300
「表象」を再定義するー潜在表現解析の落とし穴
ykamit
0
1.2k
データベース11: 正規化(1/2) - 望ましくない関係スキーマ
trycycle
PRO
0
1.8k
機械学習 - K-means & 階層的クラスタリング
trycycle
PRO
0
2.4k
Featured
See All Featured
WCS-LA-2024
lcolladotor
0
1k
What does AI have to do with Human Rights?
axbom
PRO
1
2.5k
Paper Plane (Part 1)
katiecoart
PRO
3
12k
Navigating Weather and Climate Data
rabernat
0
590
Testing 201, or: Great Expectations
jmmastey
46
8.4k
Performance Is Good for Brains [We Love Speed 2024]
tammyeverts
12
2k
The Invisible Side of Design
smashingmag
301
52k
Amusing Abliteration
ianozsvald
1
390
Facilitating Awesome Meetings
lara
57
7.2k
Designing Powerful Visuals for Engaging Learning
tmiket
1
660
It's Worth the Effort
3n
188
29k
Agile that works and the tools we love
rasmusluckow
331
22k