Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AGI福岡 第3回
Search
yuky_az
November 14, 2024
Technology
0
57
AGI福岡 第3回
AGI時代に向けて、今からできることを共に考え、実行していこう!
yuky_az
November 14, 2024
Tweet
Share
More Decks by yuky_az
See All by yuky_az
AGI福岡 第2回
yukinaga
0
52
生成AIの現状と展望: AIと共生する未来への道程
yukinaga
3
1.1k
BERTによる自然言語処理を学ぼう!【 Live!人工知能 #26】 #Live人工知能
yukinaga
0
360
iOSアプリは「感情」を宿すのか? AIとアプリの未来について
yukinaga
2
1k
iOSアプリに「意識」は宿るのか? ディープラーニングの先にある人工知能(AI)
yukinaga
6
5.6k
ヒトとAIの共生、そしてシンギュラリティ
yukinaga
0
970
iOSと(深層)強化学習
yukinaga
6
8.7k
iOSと人工知能(AI) -GPU並列演算の仕組みと機械学習-
yukinaga
0
3.1k
最小限の実装で試す MetalによるGPUコンピューティング
yukinaga
2
2.2k
Other Decks in Technology
See All in Technology
エンジニアカフェ忘年会2024「今年やらかしてしまったこと!」
keropiyo
0
100
怖くない!ゼロから始めるPHPソースコードコンパイル入門
colopl
0
160
効率的な技術組織が作れる!書籍『チームトポロジー』要点まとめ
iwamot
1
110
React Routerで実現する型安全なSPAルーティング
sansantech
PRO
2
280
Google Cloud で始める Cloud Run 〜AWSとの比較と実例デモで解説〜
risatube
PRO
0
120
なぜCodeceptJSを選んだか
goataka
0
180
12 Days of OpenAIから読み解く、生成AI 2025年のトレンド
shunsukeono_am
0
120
小学3年生夏休みの自由研究「夏休みに Copilot で遊んでみた」
taichinakamura
0
180
OCI技術資料 : ファイル・ストレージ 概要
ocise
3
11k
多領域インシデントマネジメントへの挑戦:ハードウェアとソフトウェアの融合が生む課題/Challenge to multidisciplinary incident management: Issues created by the fusion of hardware and software
bitkey
PRO
2
120
マイクロサービスにおける容易なトランザクション管理に向けて
scalar
0
190
【re:Invent 2024 アプデ】 Prompt Routing の紹介
champ
0
160
Featured
See All Featured
jQuery: Nuts, Bolts and Bling
dougneiner
61
7.6k
The Straight Up "How To Draw Better" Workshop
denniskardys
232
140k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
10
810
How to Ace a Technical Interview
jacobian
276
23k
Intergalactic Javascript Robots from Outer Space
tanoku
270
27k
The World Runs on Bad Software
bkeepers
PRO
66
11k
Building Adaptive Systems
keathley
38
2.3k
Fashionably flexible responsive web design (full day workshop)
malarkey
405
66k
Exploring the Power of Turbo Streams & Action Cable | RailsConf2023
kevinliebholz
28
4.4k
The Pragmatic Product Professional
lauravandoore
32
6.3k
Music & Morning Musume
bryan
46
6.2k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
226
22k
Transcript
"(*Ԭୈճ !ΤϯδχΞΧϑΣ
Φʔϓχϯά
ʮ൚༻ਓೳʢ"(*ʣʯͱʮಛԽܕਓೳʯ ൚༻ਓೳʢ˺ڧ͍"*ʣ ˠώτͷೳͷΑ͏ͳ൚༻ੑΛ࣋ͭ"* FHυϥ͑ΜɺమΞτϜͳͲ ಛԽܕਓೳʢ˺ऑ͍"*ʣ ˠݶఆతͳղܾਪ FHνΣεকعͷ"*ɺը૾ೝࣝͳͲ ࠷৽ͷ--.ͲͪΒʁ
"(*ͷొؒۙʁ 4*56"5*0/"-"8"3&/&44 ΑΓ IUUQTTJUVBUJPOBMBXBSFOFTTBJGSPNBHJ UPTVQFSJOUFMMJHFODF
ϊʔϕϧཧֶ © Johan Jarnestad/The Royal Swedish Academy of Sciences John
Hop fi eld and Geoffrey Hinton. Ill. Niklas Elmehed © Nobel Prize Outreach ͷϊʔϕϧཧֶɺ δϣϯɾ+ɾϗοϓϑΟʔϧυʢถࠃʣͱδΣϑϦʔɾ&ɾώϯτϯʢΧφμʣ͕ड
ϊʔϕϧཧֶ • डཧ༝ → ػցֶशͱਓχϡʔϥϧωοτϫʔΫͷج൫Λߏங͠ɺσʔλύλʔϯͷ هԱɾ࠶ݱΛՄೳʹͨ͠ޭɻ • ओͳۀ → ϗοϓϑΟʔϧυɿεϐϯܥͷཧֶͷݪཧΛԠ༻ͨ͠ʮϗοϓϑΟʔϧυ
ωοτϫʔΫʯΛ։ൃ͠ɺσʔλύλʔϯͷอଘͱ෮ݩΛ࣮ݱɻ → ώϯτϯɿʮϘϧπϚϯϚγϯʯΛ։ൃ͠ɺσʔλ͔ΒಛΛֶश͢Δٕज़ Λཱ֬ɻAIͱػցֶशͷඈ༂తͳਐలʹߩݙɻ • Өڹ → AIͱཧֶͷ༥߹ʹΑΔൃలΛଅਐ͠ɺԠ༻ͰͷՄೳੑΛେ͖֦͘େɻ
"(*Ԭͷҙٛ w "(*࣌ʹ͚ͯɺࠓ͔ΒͰ͖Δ͜ͱΛڞʹߟ͑ɺ ࣮ߦ͍ͯ͜͠͏ʂ
ӡӦऀհ w զ࠺ʢ4"*-BCגࣜձࣾʣ w ۙ౻ݑࣇʢגࣜձࣾελσΟετʣ w େ৴ߊʢ/0#%"5"גࣜձࣾʣ w ੨྄ʢςΠϧΠϯυגࣜձࣾʣ
දऀհ զ࠺ :VLJOBHB"[VNB !ZVLZ@B[ 4"*-BCגࣜձࣾදऔక w "*ؔ࿈ͷڭҭɺݚڀ w ཧֶത࢜ʢཧֶʣ w
๏େֶσβΠϯֶ෦݉ߨࢣ w 6EFNZͰສਓΛࢦಋ w ༗໊اۀͰ"*ݚमΛ୲ w ஶॻʹʮ͡ΊͯͷσΟʔϓϥʔχϯάʯͳͲ w झຯϒϥδϦΞϯॊज़"*Ξʔτ
ϋογϡλά BHJGVLVPLB
"(*Ԭ%JTDPSEίϛϡχςΟ
:PV5VCFϥΠϒ ʮ&OHJOFFSDBGF"(*ԬʯͰ:PV5VCFݕࡧ
ࠓճͷίʔυ IUUQTHJUIVCDPNZVLJOBHBIPQ fi FME@CPMU[NBOO
ϗοϓϑΟʔϧυωοτϫʔΫͱʁ
δϣϯɾϗοϓϑΟʔϧυࢯͷհ ݚڀऀͱͯ͠ͷܦྺ • ੜ·ΕɺΞϝϦΧͷཧֶऀɾੜཧֶऀ • ϓϦϯετϯେֶͰཧֶΛઐ߈ʢ1I%ʣ • ΧϦϑΥϧχΞՊେֶɺϓϦϯετϯେֶͳͲͰڭ佃 • ཧֶ͔ΒਆܦՊֶݚڀྖҬΛ֦େ
• ෳࡶܥͷݚڀͰଟେͳޭ ओͳۀͱධՁ • ɿϗοϓϑΟʔϧυωοτϫʔΫΛఏҊ • ཧֶͷ֓೦Λ༻͍ͯχϡʔϥϧωοτΛཧԽ • ݱͷਂֶशͷཧతج൫Λங͍ͨઌۦऀͷҰਓ Ill. Niklas Elmehed © Nobel Prize Outreach
ϗοϓϑΟʔϧυωοτϫʔΫͷݩจ ถࠃՊֶΞΧσϛʔلཁʹܝࡌ IUUQTXXXQOBTPSHEPJQOBT
جຊΞʔΩςΫνϟ ωοτϫʔΫߏ • ͯ͢ͷχϡʔϩϯ͕૬ޓʹ݁߹ • ֤χϡʔϩϯํʹଓɺͨͩࣗ͠ݾ݁߹ଘࡏ͠ͳ͍ • ݁߹ͷॏΈରশతʢ ʣ •
χϡʔϩϯͷঢ়ଶࢄʢ ʣ·ͨೋʢ ʣ ಈ࡞ͷಛ • ΤωϧΪʔؔ ʹجͮ͘ঢ়ଶߋ৽ ◦ ɿχϡʔϩϯ ͷᮢʢόΠΞεʣ • ඇಉظతͳঢ়ଶߋ৽ʢҰʹͭͷχϡʔϩϯʣ • ہॴతͳใͷΈͰߋ৽அ • ΤωϧΪʔ࠷খԽʹΑΔ҆ఆঢ়ଶͷऩଋ • ཧֶͷεϐϯάϥεϞσϧͱྨࣅͨ͠ৼΔ͍ wij = wji si ∈ − 1, + 1 si ∈ 0,1 E = − 1 2 ∑ i,j wij si sj − ∑ i θi si θi i
ಈ࡞ݪཧ ঢ়ଶߋ৽ͷϝΧχζϜ • ֤χϡʔϩϯͷೖྗɿ • ߋ৽نଇɿ ࢄʢۃੑʣͷ߹ɿ ೋʢ୯ۃੑʣͷ߹ɿ
• ඇಉظతͳߋ৽ʢϥϯμϜʹબΜͩͭͷχϡʔϩϯΛߋ৽ʣ • ͯ͢ͷχϡʔϩϯ͕҆ఆ͢Δ·Ͱ܁Γฦ͠ hi = ∑ j wij sj + θi si = { +1 JG hi ≥ 0 −1 JG hi < 0 si = { 1 JG hi ≥ 0 0 JG hi < 0
ಈ࡞ݪཧ ΤωϧΪʔͱऩଋ • ΤωϧΪʔؔঢ়ଶߋ৽ʹΑΓ୯ௐݮগ • γεςϜඞͣہॴ࠷খʹऩଋ • ࠷ऴঢ়ଶॳظঢ়ଶʹґଘ • ΤωϧΪʔܗͷΠϝʔδɿ
◦ࢁʢෆ҆ఆঢ়ଶʣ͔Β୩ʢ҆ఆঢ়ଶʣ ◦ෳͷ҆ఆঢ়ଶʢہॴ࠷খʣ͕ଘࡏ ◦هԱύλʔϯ҆ఆঢ়ଶͷҰͭʹରԠ
ֶशͱهԱ ֶशʢॏΈͷܾఆʣ • ݁߹ՙॏͷֶशଇɿ ʢ ʣ ◦ ɿχϡʔϩϯ ◦ ɿهԱͤ͞Δύλʔϯ
◦ ɿύλʔϯ ʹ͓͚Δχϡʔϩϯ ͷঢ়ଶ • ҰͷܭࢉͰॏΈΛܾఆʢඇ෮తʣ • ੜֶతͳϔϒଇʹجͮ͘ هԱ༰ྔͱಛ • ཧతͳهԱ༰ྔɿ ◦ ݸͷχϡʔϩϯͰ ݸͷύλʔϯΛهԱՄೳ • ϊΠζΛؚΉೖྗ͔Βͷى͕Մೳ • ύλʔϯͷҰ෦͔ΒશମΛ࠶ߏ wij = 1 N ∑p μ=1 sμ i sμ j i ≠ j N p sμ i μ i pmax ≈ 0.14N N 0.14N
Ԡ༻ྫͱಛ දతͳԠ༻ྫ • ࿈هԱγεςϜ ◦ύλʔϯ෮ݩɾϊΠζআڈ ◦ෆશͳೖྗ͔Βͷى • Έ߹Θͤ࠷దԽ ◦८ճηʔϧεϚϯ ◦εέδϡʔϦϯά
རͱݶք • རɿฒྻॲཧ͕ՄೳɺϋʔυΣΞ࣮͕༰қ • ݶքɿهԱ༰ྔͷ੍ݶʢ ʣɺہॴղʹؕΔՄೳੑ 0.14N
ൃలͱӨڹ తͳൃల • ϘϧπϚϯϚγϯͷਐԽ ◦֬తͳৼΔ͍ͷಋೖɺӅΕͷՃ • ࿈ଓϞσϧͷ։ൃ ◦ΞφϩάχϡʔϩϯͷಋೖɺΑΓ๛͔ͳදݱೳྗͷ֫ಘ ݱͷӨڹ •
ཧֶͷݟͷ׆༻ ◦ΤωϧΪʔ࠷খԽʹΑΔֶश ◦֬తΞϓϩʔνͷجૅ
ϗοϓϑΟʔϧυωοτϫʔΫͷίʔυ IUUQTHJUIVCDPNZVLJOBHBIPQ fi FME@CPMU[NBOOUSFFNBJOTFDUJPO@
ϘϧπϚϯϚγϯͱʁ
δΣϑϦʔɾώϯτϯࢯͷհ Ill. Niklas Elmehed © Nobel Prize Outreach ܦྺͱݚڀ •
ΠΪϦεੜ·ΕɺʮσΟʔϓϥʔχϯάͷʯ • τϩϯτେֶڭतɺ(PPHMF3FTFBSDIॴଐ • ೝ৺ཧֶ͔Βਓೳݚڀ • ਂֶशͷཧతجૅΛཱ֬ ओͳۀ • ޡࠩٯ๏ͷ࠶ൃݟʢʣ • %FFQ#FMJFG/FUXPSLͷఏҊʢʣ • νϡʔϦϯάडʢʣ • "*҆શੑͷܯʢʣ
ϘϧπϚϯϚγϯͷݩจ τϩϯτେֶͷΣϒαΠτʹܝࡌ IUUQTXXXDTUPSPOUPFEVdGSJU[BCTQTDPHTDJCNQEG
എܠͱੜ ։ൃͷഎܠ • ɺϗοϓϑΟʔϧυωοτϫʔΫͷݶք • ౷ܭྗֶʢϘϧπϚϯʣͷԠ༻Λண • )JOUPO4FKOPXTLJʹΑΔڞಉݚڀʢʣ • ֬తͳৼΔ͍ͷಋೖ
ओཁͳֵ৽ • ֬తͳχϡʔϩϯͷಋೖ • ԹύϥϝʔλʹΑΔ੍ޚ • ӅΕϢχοτͷಋೖ • ΤωϧΪʔ࠷খԽͱ֬తֶशͷ౷߹
جຊΞʔΩςΫνϟ ωοτϫʔΫߏ • ՄࢹͱӅΕͷߏ • ͯ͢ͷϢχοτ͕ؒํʹ݁߹ • ֬తͳঢ়ଶભҠɿ ◦
ɿঢ়ଶมԽʹ͏ΤωϧΪʔมԽ ◦ ɿԹύϥϝʔλ ΤωϧΪʔؔ • ◦ ɿϢχοτؒͷ݁߹ॏΈ ◦ ɿϢχοτͷঢ়ଶʢ·ͨʣ ◦ ɿόΠΞε߲ • Թ ʹΑͬͯঢ়ଶΛ੍ޚ p(si = 1) = 1 1 + e−ΔEi/T ΔEi T E = − ∑ i<j wij si sj − ∑ i θi si wij si θi T
ಈ࡞ϝΧχζϜ ঢ়ଶભҠͷΈ • ϘϧπϚϯʹै͏֬తͳঢ়ଶߋ৽ ◦ ◦ ɿؔ ɿશϢχοτͷঢ়ଶϕΫτϧ •
ΪϒεαϯϓϦϯάʹΑΔঢ়ଶભҠ ◦ϥϯμϜʹબΜͩϢχοτΛ֬తʹߋ৽ ◦ฏߧঢ়ଶʹ౸ୡ͢Δ·Ͱ܁Γฦ͠ Թ੍ޚͱ࠷దԽ • γϛϡϨʔςουΞχʔϦϯάͷར༻ ◦ߴԹ͔Β։࢝͠ɺঃʑʹԹΛԼ͛Δ ◦ہॴղճආͱେҬత࠷దԽ • ԹʹΑΔ୳ࡧɾऩଋͷ੍ޚ ◦ߴԹɿϥϯμϜͳ୳ࡧԹɿہॴతͳ࠷దԽ P(s) = 1 Z e−E(s)/T Z s
ֶशΞϧΰϦζϜ ֶशͷجຊࣜ • ॏΈߋ৽ଇɿ ◦ ɿֶश ◦ ɿσʔλͷظʢਖ਼૬ʣ ◦
ɿϞσϧͷظʢෛ૬ʣ ্࣮ͷ • ίϯτϥεςΟϒμΠόʔδΣϯεʢ$%ʣ๏ͷಋೖ ◦શͳऩଋΛͨͣʹֶश ◦গεςοϓͷαϯϓϦϯάͰ༻ • Թεέδϡʔϧͷઃఆ ◦ֶशॳظߴԹͰ୳ࡧతʹ ◦ֶशޙظԹͰऩଋΛଅਐ Δwij = η(⟨si sj ⟩data − ⟨si sj ⟩model ) η ⟨ ⋅ ⟩data ⟨ ⋅ ⟩model
ൃలͱԠ༻ Ϟσϧͷൃల • ੍ݶϘϧπϚϯϚγϯʢ3#.ʣͷߟҊ ◦ؒͷΈͷ݁߹ʹΑΔޮԽ ◦%FFQ#FMJFG/FUXPSLͷجૅʹ • %FFQ-FBSOJOHֵ໋ͷߩݙ ◦ਂֶशͷࣄલֶशख๏ͱͯ͠׆༻ ◦ੜϞσϧͷجຊ֓೦Λཱ֬
ϘϧπϚϯϚγϯͷίʔυ IUUQTHJUIVCDPNZVLJOBHBIPQ fi FME@CPMU[NBOOUSFFNBJOTFDUJPO@
Ԭͷ"(* Γ্͍͖͛ͯ·͠ΐ͏ʂ