Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Automatisch differentiëren
Search
Michiel Stock
November 25, 2022
0
47
Automatisch differentiëren
Michiel Stock
November 25, 2022
Tweet
Share
More Decks by Michiel Stock
See All by Michiel Stock
Kernel mean embedding as a unifying theory for distributional data
michielstock
0
280
Differentiable sequence alignment
michielstock
0
260
Optimal transportation for species interaction networks
michielstock
1
180
Computational tools for designing modular biosystems
michielstock
2
160
A drunkard’s walk in the science of cocktails
michielstock
0
390
Featured
See All Featured
A Modern Web Designer's Workflow
chriscoyier
693
190k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
47
5.3k
GraphQLの誤解/rethinking-graphql
sonatard
69
10k
Faster Mobile Websites
deanohume
306
31k
Reflections from 52 weeks, 52 projects
jeffersonlam
349
20k
Fantastic passwords and where to find them - at NoRuKo
philnash
51
3.1k
Building an army of robots
kneath
304
45k
The Pragmatic Product Professional
lauravandoore
33
6.5k
Learning to Love Humans: Emotional Interface Design
aarron
273
40k
We Have a Design System, Now What?
morganepeng
51
7.5k
Docker and Python
trallard
44
3.3k
Building Better People: How to give real-time feedback that sticks.
wjessup
367
19k
Transcript
AUTODIFF Photo by Matt Duncan on Unsplash Michiel Stock @michielstock
michiel.stock@ugent.be KERMIT 1
Automatisch differentiëren 2 Automatisch differentiëren (autodiff) is het automatisch numeriek
berekenen van afgeleiden en gradiënten van stukjes code door de computationele graaf aan te passen. een computerpakket voor autodiff
Wat is het niet? 3 symbolisch afleiden df(x) dx ≈
f(x + d) − f(x) d numeriek afleiden
Methode van Babylon 4 De methode van Babylon is een
algoritme om de vierkantswortel van een getal te berekenen x merk op dat je enkel optellen en delen gebruikt in de berekeningen
Duale nummers 5 Duale nummers zijn een heel eenvoudige manier
om autodiff te implementeren. Dit is een nieuw soort ‘getal’ dat zowel de waarde als de afgeleide bijhoudt. d (x) dx = 1 2 √ x Dit werkt!
Vergel ij k met symbolisch… 6 Vier stapjes van methode
van Babylon uitgeschreven: Boeltje afleiden maakt het nog erger…
Arti fi ciële intelligentie 7 Een artificieel neural netwerk is
een grote functie met parameters: f(θ) Men definieert dan een verliesfunctie die zegt hoe goed het netwerk werkt: ℒ( f(θ)) De afgeleide zegt hoe je de parameters moet aanpassen om het netwerk better te doen laten werken: θ ∂ℒ( f(θ)) ∂θi
Alles kan afgeleid worden! 8 vloeistofsimulaties eiwitstructuren robots fysicamodellen