Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Automatisch differentiëren
Search
Michiel Stock
November 25, 2022
0
67
Automatisch differentiëren
Michiel Stock
November 25, 2022
Tweet
Share
More Decks by Michiel Stock
See All by Michiel Stock
Kernel mean embedding as a unifying theory for distributional data
michielstock
0
370
Differentiable sequence alignment
michielstock
0
280
Optimal transportation for species interaction networks
michielstock
1
200
Computational tools for designing modular biosystems
michielstock
2
180
A drunkard’s walk in the science of cocktails
michielstock
0
430
Featured
See All Featured
Fantastic passwords and where to find them - at NoRuKo
philnash
52
3.4k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
507
140k
Keith and Marios Guide to Fast Websites
keithpitt
411
22k
GraphQLとの向き合い方2022年版
quramy
49
14k
The Invisible Side of Design
smashingmag
301
51k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
36
2.5k
StorybookのUI Testing Handbookを読んだ
zakiyama
31
6.1k
Faster Mobile Websites
deanohume
309
31k
Documentation Writing (for coders)
carmenintech
74
5k
Raft: Consensus for Rubyists
vanstee
140
7.1k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
234
17k
Making the Leap to Tech Lead
cromwellryan
135
9.5k
Transcript
AUTODIFF Photo by Matt Duncan on Unsplash Michiel Stock @michielstock
[email protected]
KERMIT 1
Automatisch differentiëren 2 Automatisch differentiëren (autodiff) is het automatisch numeriek
berekenen van afgeleiden en gradiënten van stukjes code door de computationele graaf aan te passen. een computerpakket voor autodiff
Wat is het niet? 3 symbolisch afleiden df(x) dx ≈
f(x + d) − f(x) d numeriek afleiden
Methode van Babylon 4 De methode van Babylon is een
algoritme om de vierkantswortel van een getal te berekenen x merk op dat je enkel optellen en delen gebruikt in de berekeningen
Duale nummers 5 Duale nummers zijn een heel eenvoudige manier
om autodiff te implementeren. Dit is een nieuw soort ‘getal’ dat zowel de waarde als de afgeleide bijhoudt. d (x) dx = 1 2 √ x Dit werkt!
Vergel ij k met symbolisch… 6 Vier stapjes van methode
van Babylon uitgeschreven: Boeltje afleiden maakt het nog erger…
Arti fi ciële intelligentie 7 Een artificieel neural netwerk is
een grote functie met parameters: f(θ) Men definieert dan een verliesfunctie die zegt hoe goed het netwerk werkt: ℒ( f(θ)) De afgeleide zegt hoe je de parameters moet aanpassen om het netwerk better te doen laten werken: θ ∂ℒ( f(θ)) ∂θi
Alles kan afgeleid worden! 8 vloeistofsimulaties eiwitstructuren robots fysicamodellen