Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AGI福岡 第3回
Search
yuky_az
November 14, 2024
Technology
0
99
AGI福岡 第3回
AGI時代に向けて、今からできることを共に考え、実行していこう!
yuky_az
November 14, 2024
Tweet
Share
More Decks by yuky_az
See All by yuky_az
AGI福岡 第6回
yukinaga
0
97
AGI福岡 第5回
yukinaga
0
140
AGI福岡 第2回
yukinaga
0
110
生成AIの現状と展望: AIと共生する未来への道程
yukinaga
3
1.1k
BERTによる自然言語処理を学ぼう!【 Live!人工知能 #26】 #Live人工知能
yukinaga
0
410
iOSアプリは「感情」を宿すのか? AIとアプリの未来について
yukinaga
2
1.1k
iOSアプリに「意識」は宿るのか? ディープラーニングの先にある人工知能(AI)
yukinaga
6
5.9k
ヒトとAIの共生、そしてシンギュラリティ
yukinaga
0
1k
iOSと(深層)強化学習
yukinaga
6
9k
Other Decks in Technology
See All in Technology
ユニットテストに対する考え方の変遷 / Everyone should watch his live coding
mdstoy
0
100
FastAPIの魔法をgRPC/Connect RPCへ
monotaro
PRO
0
480
避けられないI/O待ちに対処する: Rails アプリにおけるSSEとasync gemの活用 / Tackling Inevitable I/O Latency in Rails Apps with SSE and the async gem
moznion
2
1.8k
KAGのLT会 #8 - 東京リージョンでGAしたAmazon Q in QuickSightを使って、報告用の資料を作ってみた
0air
0
180
いまさら聞けない ABテスト入門
skmr2348
0
170
AIが書いたコードをAIが検証する!自律的なモバイルアプリ開発の実現
henteko
1
230
全てGoで作るP2P対戦ゲーム入門
ponyo877
3
1.2k
stupid jj tricks
indirect
0
7.5k
非同期処理実行基盤 Delayed脱出 → Solid Queue完全移行への旅路。
srockstyle
3
1.3k
"複雑なデータ処理 × 静的サイト" を両立させる、楽をするRails運用 / A low-effort Rails workflow that combines “Complex Data Processing × Static Sites”
hogelog
3
1.3k
GC25 Recap+: Advancing Go Garbage Collection with Green Tea
logica0419
1
310
Function calling機能をPLaMo2に実装するには / PFN LLMセミナー
pfn
PRO
0
710
Featured
See All Featured
A designer walks into a library…
pauljervisheath
208
24k
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
18
1.2k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
140
34k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
33
2.4k
4 Signs Your Business is Dying
shpigford
185
22k
Reflections from 52 weeks, 52 projects
jeffersonlam
352
21k
Side Projects
sachag
455
43k
Statistics for Hackers
jakevdp
799
220k
The World Runs on Bad Software
bkeepers
PRO
71
11k
Writing Fast Ruby
sferik
629
62k
Building a Modern Day E-commerce SEO Strategy
aleyda
43
7.7k
Code Reviewing Like a Champion
maltzj
525
40k
Transcript
"(*Ԭୈճ !ΤϯδχΞΧϑΣ
Φʔϓχϯά
ʮ൚༻ਓೳʢ"(*ʣʯͱʮಛԽܕਓೳʯ ൚༻ਓೳʢ˺ڧ͍"*ʣ ˠώτͷೳͷΑ͏ͳ൚༻ੑΛ࣋ͭ"* FHυϥ͑ΜɺమΞτϜͳͲ ಛԽܕਓೳʢ˺ऑ͍"*ʣ ˠݶఆతͳղܾਪ FHνΣεকعͷ"*ɺը૾ೝࣝͳͲ ࠷৽ͷ--.ͲͪΒʁ
"(*ͷొؒۙʁ 4*56"5*0/"-"8"3&/&44 ΑΓ IUUQTTJUVBUJPOBMBXBSFOFTTBJGSPNBHJ UPTVQFSJOUFMMJHFODF
ϊʔϕϧཧֶ © Johan Jarnestad/The Royal Swedish Academy of Sciences John
Hop fi eld and Geoffrey Hinton. Ill. Niklas Elmehed © Nobel Prize Outreach ͷϊʔϕϧཧֶɺ δϣϯɾ+ɾϗοϓϑΟʔϧυʢถࠃʣͱδΣϑϦʔɾ&ɾώϯτϯʢΧφμʣ͕ड
ϊʔϕϧཧֶ • डཧ༝ → ػցֶशͱਓχϡʔϥϧωοτϫʔΫͷج൫Λߏங͠ɺσʔλύλʔϯͷ هԱɾ࠶ݱΛՄೳʹͨ͠ޭɻ • ओͳۀ → ϗοϓϑΟʔϧυɿεϐϯܥͷཧֶͷݪཧΛԠ༻ͨ͠ʮϗοϓϑΟʔϧυ
ωοτϫʔΫʯΛ։ൃ͠ɺσʔλύλʔϯͷอଘͱ෮ݩΛ࣮ݱɻ → ώϯτϯɿʮϘϧπϚϯϚγϯʯΛ։ൃ͠ɺσʔλ͔ΒಛΛֶश͢Δٕज़ Λཱ֬ɻAIͱػցֶशͷඈ༂తͳਐలʹߩݙɻ • Өڹ → AIͱཧֶͷ༥߹ʹΑΔൃలΛଅਐ͠ɺԠ༻ͰͷՄೳੑΛେ͖֦͘େɻ
"(*Ԭͷҙٛ w "(*࣌ʹ͚ͯɺࠓ͔ΒͰ͖Δ͜ͱΛڞʹߟ͑ɺ ࣮ߦ͍ͯ͜͠͏ʂ
ӡӦऀհ w զ࠺ʢ4"*-BCגࣜձࣾʣ w ۙ౻ݑࣇʢגࣜձࣾελσΟετʣ w େ৴ߊʢ/0#%"5"גࣜձࣾʣ w ੨྄ʢςΠϧΠϯυגࣜձࣾʣ
දऀհ զ࠺ :VLJOBHB"[VNB !ZVLZ@B[ 4"*-BCגࣜձࣾදऔక w "*ؔ࿈ͷڭҭɺݚڀ w ཧֶത࢜ʢཧֶʣ w
๏େֶσβΠϯֶ෦݉ߨࢣ w 6EFNZͰສਓΛࢦಋ w ༗໊اۀͰ"*ݚमΛ୲ w ஶॻʹʮ͡ΊͯͷσΟʔϓϥʔχϯάʯͳͲ w झຯϒϥδϦΞϯॊज़"*Ξʔτ
ϋογϡλά BHJGVLVPLB
"(*Ԭ%JTDPSEίϛϡχςΟ
:PV5VCFϥΠϒ ʮ&OHJOFFSDBGF"(*ԬʯͰ:PV5VCFݕࡧ
ࠓճͷίʔυ IUUQTHJUIVCDPNZVLJOBHBIPQ fi FME@CPMU[NBOO
ϗοϓϑΟʔϧυωοτϫʔΫͱʁ
δϣϯɾϗοϓϑΟʔϧυࢯͷհ ݚڀऀͱͯ͠ͷܦྺ • ੜ·ΕɺΞϝϦΧͷཧֶऀɾੜཧֶऀ • ϓϦϯετϯେֶͰཧֶΛઐ߈ʢ1I%ʣ • ΧϦϑΥϧχΞՊେֶɺϓϦϯετϯେֶͳͲͰڭ佃 • ཧֶ͔ΒਆܦՊֶݚڀྖҬΛ֦େ
• ෳࡶܥͷݚڀͰଟେͳޭ ओͳۀͱධՁ • ɿϗοϓϑΟʔϧυωοτϫʔΫΛఏҊ • ཧֶͷ֓೦Λ༻͍ͯχϡʔϥϧωοτΛཧԽ • ݱͷਂֶशͷཧతج൫Λங͍ͨઌۦऀͷҰਓ Ill. Niklas Elmehed © Nobel Prize Outreach
ϗοϓϑΟʔϧυωοτϫʔΫͷݩจ ถࠃՊֶΞΧσϛʔلཁʹܝࡌ IUUQTXXXQOBTPSHEPJQOBT
جຊΞʔΩςΫνϟ ωοτϫʔΫߏ • ͯ͢ͷχϡʔϩϯ͕૬ޓʹ݁߹ • ֤χϡʔϩϯํʹଓɺͨͩࣗ͠ݾ݁߹ଘࡏ͠ͳ͍ • ݁߹ͷॏΈରশతʢ ʣ •
χϡʔϩϯͷঢ়ଶࢄʢ ʣ·ͨೋʢ ʣ ಈ࡞ͷಛ • ΤωϧΪʔؔ ʹجͮ͘ঢ়ଶߋ৽ ◦ ɿχϡʔϩϯ ͷᮢʢόΠΞεʣ • ඇಉظతͳঢ়ଶߋ৽ʢҰʹͭͷχϡʔϩϯʣ • ہॴతͳใͷΈͰߋ৽அ • ΤωϧΪʔ࠷খԽʹΑΔ҆ఆঢ়ଶͷऩଋ • ཧֶͷεϐϯάϥεϞσϧͱྨࣅͨ͠ৼΔ͍ wij = wji si ∈ − 1, + 1 si ∈ 0,1 E = − 1 2 ∑ i,j wij si sj − ∑ i θi si θi i
ಈ࡞ݪཧ ঢ়ଶߋ৽ͷϝΧχζϜ • ֤χϡʔϩϯͷೖྗɿ • ߋ৽نଇɿ ࢄʢۃੑʣͷ߹ɿ ೋʢ୯ۃੑʣͷ߹ɿ
• ඇಉظతͳߋ৽ʢϥϯμϜʹબΜͩͭͷχϡʔϩϯΛߋ৽ʣ • ͯ͢ͷχϡʔϩϯ͕҆ఆ͢Δ·Ͱ܁Γฦ͠ hi = ∑ j wij sj + θi si = { +1 JG hi ≥ 0 −1 JG hi < 0 si = { 1 JG hi ≥ 0 0 JG hi < 0
ಈ࡞ݪཧ ΤωϧΪʔͱऩଋ • ΤωϧΪʔؔঢ়ଶߋ৽ʹΑΓ୯ௐݮগ • γεςϜඞͣہॴ࠷খʹऩଋ • ࠷ऴঢ়ଶॳظঢ়ଶʹґଘ • ΤωϧΪʔܗͷΠϝʔδɿ
◦ࢁʢෆ҆ఆঢ়ଶʣ͔Β୩ʢ҆ఆঢ়ଶʣ ◦ෳͷ҆ఆঢ়ଶʢہॴ࠷খʣ͕ଘࡏ ◦هԱύλʔϯ҆ఆঢ়ଶͷҰͭʹରԠ
ֶशͱهԱ ֶशʢॏΈͷܾఆʣ • ݁߹ՙॏͷֶशଇɿ ʢ ʣ ◦ ɿχϡʔϩϯ ◦ ɿهԱͤ͞Δύλʔϯ
◦ ɿύλʔϯ ʹ͓͚Δχϡʔϩϯ ͷঢ়ଶ • ҰͷܭࢉͰॏΈΛܾఆʢඇ෮తʣ • ੜֶతͳϔϒଇʹجͮ͘ هԱ༰ྔͱಛ • ཧతͳهԱ༰ྔɿ ◦ ݸͷχϡʔϩϯͰ ݸͷύλʔϯΛهԱՄೳ • ϊΠζΛؚΉೖྗ͔Βͷى͕Մೳ • ύλʔϯͷҰ෦͔ΒશମΛ࠶ߏ wij = 1 N ∑p μ=1 sμ i sμ j i ≠ j N p sμ i μ i pmax ≈ 0.14N N 0.14N
Ԡ༻ྫͱಛ දతͳԠ༻ྫ • ࿈هԱγεςϜ ◦ύλʔϯ෮ݩɾϊΠζআڈ ◦ෆશͳೖྗ͔Βͷى • Έ߹Θͤ࠷దԽ ◦८ճηʔϧεϚϯ ◦εέδϡʔϦϯά
རͱݶք • རɿฒྻॲཧ͕ՄೳɺϋʔυΣΞ࣮͕༰қ • ݶքɿهԱ༰ྔͷ੍ݶʢ ʣɺہॴղʹؕΔՄೳੑ 0.14N
ൃలͱӨڹ తͳൃల • ϘϧπϚϯϚγϯͷਐԽ ◦֬తͳৼΔ͍ͷಋೖɺӅΕͷՃ • ࿈ଓϞσϧͷ։ൃ ◦ΞφϩάχϡʔϩϯͷಋೖɺΑΓ๛͔ͳදݱೳྗͷ֫ಘ ݱͷӨڹ •
ཧֶͷݟͷ׆༻ ◦ΤωϧΪʔ࠷খԽʹΑΔֶश ◦֬తΞϓϩʔνͷجૅ
ϗοϓϑΟʔϧυωοτϫʔΫͷίʔυ IUUQTHJUIVCDPNZVLJOBHBIPQ fi FME@CPMU[NBOOUSFFNBJOTFDUJPO@
ϘϧπϚϯϚγϯͱʁ
δΣϑϦʔɾώϯτϯࢯͷհ Ill. Niklas Elmehed © Nobel Prize Outreach ܦྺͱݚڀ •
ΠΪϦεੜ·ΕɺʮσΟʔϓϥʔχϯάͷʯ • τϩϯτେֶڭतɺ(PPHMF3FTFBSDIॴଐ • ೝ৺ཧֶ͔Βਓೳݚڀ • ਂֶशͷཧతجૅΛཱ֬ ओͳۀ • ޡࠩٯ๏ͷ࠶ൃݟʢʣ • %FFQ#FMJFG/FUXPSLͷఏҊʢʣ • νϡʔϦϯάडʢʣ • "*҆શੑͷܯʢʣ
ϘϧπϚϯϚγϯͷݩจ τϩϯτେֶͷΣϒαΠτʹܝࡌ IUUQTXXXDTUPSPOUPFEVdGSJU[BCTQTDPHTDJCNQEG
എܠͱੜ ։ൃͷഎܠ • ɺϗοϓϑΟʔϧυωοτϫʔΫͷݶք • ౷ܭྗֶʢϘϧπϚϯʣͷԠ༻Λண • )JOUPO4FKOPXTLJʹΑΔڞಉݚڀʢʣ • ֬తͳৼΔ͍ͷಋೖ
ओཁͳֵ৽ • ֬తͳχϡʔϩϯͷಋೖ • ԹύϥϝʔλʹΑΔ੍ޚ • ӅΕϢχοτͷಋೖ • ΤωϧΪʔ࠷খԽͱ֬తֶशͷ౷߹
جຊΞʔΩςΫνϟ ωοτϫʔΫߏ • ՄࢹͱӅΕͷߏ • ͯ͢ͷϢχοτ͕ؒํʹ݁߹ • ֬తͳঢ়ଶભҠɿ ◦
ɿঢ়ଶมԽʹ͏ΤωϧΪʔมԽ ◦ ɿԹύϥϝʔλ ΤωϧΪʔؔ • ◦ ɿϢχοτؒͷ݁߹ॏΈ ◦ ɿϢχοτͷঢ়ଶʢ·ͨʣ ◦ ɿόΠΞε߲ • Թ ʹΑͬͯঢ়ଶΛ੍ޚ p(si = 1) = 1 1 + e−ΔEi/T ΔEi T E = − ∑ i<j wij si sj − ∑ i θi si wij si θi T
ಈ࡞ϝΧχζϜ ঢ়ଶભҠͷΈ • ϘϧπϚϯʹै͏֬తͳঢ়ଶߋ৽ ◦ ◦ ɿؔ ɿશϢχοτͷঢ়ଶϕΫτϧ •
ΪϒεαϯϓϦϯάʹΑΔঢ়ଶભҠ ◦ϥϯμϜʹબΜͩϢχοτΛ֬తʹߋ৽ ◦ฏߧঢ়ଶʹ౸ୡ͢Δ·Ͱ܁Γฦ͠ Թ੍ޚͱ࠷దԽ • γϛϡϨʔςουΞχʔϦϯάͷར༻ ◦ߴԹ͔Β։࢝͠ɺঃʑʹԹΛԼ͛Δ ◦ہॴղճආͱେҬత࠷దԽ • ԹʹΑΔ୳ࡧɾऩଋͷ੍ޚ ◦ߴԹɿϥϯμϜͳ୳ࡧԹɿہॴతͳ࠷దԽ P(s) = 1 Z e−E(s)/T Z s
ֶशΞϧΰϦζϜ ֶशͷجຊࣜ • ॏΈߋ৽ଇɿ ◦ ɿֶश ◦ ɿσʔλͷظʢਖ਼૬ʣ ◦
ɿϞσϧͷظʢෛ૬ʣ ্࣮ͷ • ίϯτϥεςΟϒμΠόʔδΣϯεʢ$%ʣ๏ͷಋೖ ◦શͳऩଋΛͨͣʹֶश ◦গεςοϓͷαϯϓϦϯάͰ༻ • Թεέδϡʔϧͷઃఆ ◦ֶशॳظߴԹͰ୳ࡧతʹ ◦ֶशޙظԹͰऩଋΛଅਐ Δwij = η(⟨si sj ⟩data − ⟨si sj ⟩model ) η ⟨ ⋅ ⟩data ⟨ ⋅ ⟩model
ൃలͱԠ༻ Ϟσϧͷൃల • ੍ݶϘϧπϚϯϚγϯʢ3#.ʣͷߟҊ ◦ؒͷΈͷ݁߹ʹΑΔޮԽ ◦%FFQ#FMJFG/FUXPSLͷجૅʹ • %FFQ-FBSOJOHֵ໋ͷߩݙ ◦ਂֶशͷࣄલֶशख๏ͱͯ͠׆༻ ◦ੜϞσϧͷجຊ֓೦Λཱ֬
ϘϧπϚϯϚγϯͷίʔυ IUUQTHJUIVCDPNZVLJOBHBIPQ fi FME@CPMU[NBOOUSFFNBJOTFDUJPO@
Ԭͷ"(* Γ্͍͖͛ͯ·͠ΐ͏ʂ