Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Automatisch differentiëren
Search
Michiel Stock
November 25, 2022
0
67
Automatisch differentiëren
Michiel Stock
November 25, 2022
Tweet
Share
More Decks by Michiel Stock
See All by Michiel Stock
Kernel mean embedding as a unifying theory for distributional data
michielstock
0
370
Differentiable sequence alignment
michielstock
0
280
Optimal transportation for species interaction networks
michielstock
1
200
Computational tools for designing modular biosystems
michielstock
2
180
A drunkard’s walk in the science of cocktails
michielstock
0
430
Featured
See All Featured
Building Adaptive Systems
keathley
43
2.7k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
507
140k
GitHub's CSS Performance
jonrohan
1032
460k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
48
9.7k
Gamification - CAS2011
davidbonilla
81
5.4k
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
49
3k
Chrome DevTools: State of the Union 2024 - Debugging React & Beyond
addyosmani
7
840
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
234
17k
BBQ
matthewcrist
89
9.8k
The Invisible Side of Design
smashingmag
301
51k
The Cult of Friendly URLs
andyhume
79
6.6k
Java REST API Framework Comparison - PWX 2021
mraible
33
8.8k
Transcript
AUTODIFF Photo by Matt Duncan on Unsplash Michiel Stock @michielstock
[email protected]
KERMIT 1
Automatisch differentiëren 2 Automatisch differentiëren (autodiff) is het automatisch numeriek
berekenen van afgeleiden en gradiënten van stukjes code door de computationele graaf aan te passen. een computerpakket voor autodiff
Wat is het niet? 3 symbolisch afleiden df(x) dx ≈
f(x + d) − f(x) d numeriek afleiden
Methode van Babylon 4 De methode van Babylon is een
algoritme om de vierkantswortel van een getal te berekenen x merk op dat je enkel optellen en delen gebruikt in de berekeningen
Duale nummers 5 Duale nummers zijn een heel eenvoudige manier
om autodiff te implementeren. Dit is een nieuw soort ‘getal’ dat zowel de waarde als de afgeleide bijhoudt. d (x) dx = 1 2 √ x Dit werkt!
Vergel ij k met symbolisch… 6 Vier stapjes van methode
van Babylon uitgeschreven: Boeltje afleiden maakt het nog erger…
Arti fi ciële intelligentie 7 Een artificieel neural netwerk is
een grote functie met parameters: f(θ) Men definieert dan een verliesfunctie die zegt hoe goed het netwerk werkt: ℒ( f(θ)) De afgeleide zegt hoe je de parameters moet aanpassen om het netwerk better te doen laten werken: θ ∂ℒ( f(θ)) ∂θi
Alles kan afgeleid worden! 8 vloeistofsimulaties eiwitstructuren robots fysicamodellen