Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AGI福岡 第3回
Search
yuky_az
November 14, 2024
Technology
0
95
AGI福岡 第3回
AGI時代に向けて、今からできることを共に考え、実行していこう!
yuky_az
November 14, 2024
Tweet
Share
More Decks by yuky_az
See All by yuky_az
AGI福岡 第6回
yukinaga
0
83
AGI福岡 第5回
yukinaga
0
130
AGI福岡 第2回
yukinaga
0
96
生成AIの現状と展望: AIと共生する未来への道程
yukinaga
3
1.1k
BERTによる自然言語処理を学ぼう!【 Live!人工知能 #26】 #Live人工知能
yukinaga
0
400
iOSアプリは「感情」を宿すのか? AIとアプリの未来について
yukinaga
2
1.1k
iOSアプリに「意識」は宿るのか? ディープラーニングの先にある人工知能(AI)
yukinaga
6
5.8k
ヒトとAIの共生、そしてシンギュラリティ
yukinaga
0
1k
iOSと(深層)強化学習
yukinaga
6
8.9k
Other Decks in Technology
See All in Technology
複数のGemini CLIが同時開発する狂気 - Jujutsuが実現するAIエージェント協調の新世界
gunta
12
3.2k
Amazon CloudWatchのメトリクスインターバルについて / Metrics interval matters
ymotongpoo
3
210
AI工学特論: MLOps・継続的評価
asei
10
1.6k
エンジニアリングマネージャー“お悩み相談”パネルセッション
ar_tama
1
650
SAE J1939シミュレーション環境構築
daikiokazaki
0
150
低レイヤソフトウェア技術者が YouTuberとして食っていこうとした話
sat
PRO
7
5.8k
FAST導入1年間のふりかえり〜現実を直視し、さらなる進化を求めて〜 / Review of the first year of FAST implementation
wooootack
1
120
組織内、組織間の資産保護に必要なアイデンティティ基盤と関連技術の最新動向
fujie
0
510
AIを使っていい感じにE2Eテストを書けるようになるまで / Trying to Write Good E2E Tests with AI
katawara
3
1.6k
Snowflake のアーキテクチャは本当に筋がよかったのか / Data Engineering Study #30
indigo13love
0
260
「現場で活躍するAIエージェント」を実現するチームと開発プロセス
tkikuchi1002
6
1k
「手を動かした者だけが世界を変える」ソフトウェア開発だけではない開発者人生
onishi
11
4.2k
Featured
See All Featured
jQuery: Nuts, Bolts and Bling
dougneiner
63
7.8k
Become a Pro
speakerdeck
PRO
29
5.4k
Scaling GitHub
holman
461
140k
Measuring & Analyzing Core Web Vitals
bluesmoon
7
530
The Cult of Friendly URLs
andyhume
79
6.5k
Bootstrapping a Software Product
garrettdimon
PRO
307
110k
Code Review Best Practice
trishagee
69
19k
Put a Button on it: Removing Barriers to Going Fast.
kastner
60
3.9k
Six Lessons from altMBA
skipperchong
28
3.9k
Fantastic passwords and where to find them - at NoRuKo
philnash
51
3.3k
Balancing Empowerment & Direction
lara
1
490
Performance Is Good for Brains [We Love Speed 2024]
tammyeverts
10
990
Transcript
"(*Ԭୈճ !ΤϯδχΞΧϑΣ
Φʔϓχϯά
ʮ൚༻ਓೳʢ"(*ʣʯͱʮಛԽܕਓೳʯ ൚༻ਓೳʢ˺ڧ͍"*ʣ ˠώτͷೳͷΑ͏ͳ൚༻ੑΛ࣋ͭ"* FHυϥ͑ΜɺమΞτϜͳͲ ಛԽܕਓೳʢ˺ऑ͍"*ʣ ˠݶఆతͳղܾਪ FHνΣεকعͷ"*ɺը૾ೝࣝͳͲ ࠷৽ͷ--.ͲͪΒʁ
"(*ͷొؒۙʁ 4*56"5*0/"-"8"3&/&44 ΑΓ IUUQTTJUVBUJPOBMBXBSFOFTTBJGSPNBHJ UPTVQFSJOUFMMJHFODF
ϊʔϕϧཧֶ © Johan Jarnestad/The Royal Swedish Academy of Sciences John
Hop fi eld and Geoffrey Hinton. Ill. Niklas Elmehed © Nobel Prize Outreach ͷϊʔϕϧཧֶɺ δϣϯɾ+ɾϗοϓϑΟʔϧυʢถࠃʣͱδΣϑϦʔɾ&ɾώϯτϯʢΧφμʣ͕ड
ϊʔϕϧཧֶ • डཧ༝ → ػցֶशͱਓχϡʔϥϧωοτϫʔΫͷج൫Λߏங͠ɺσʔλύλʔϯͷ هԱɾ࠶ݱΛՄೳʹͨ͠ޭɻ • ओͳۀ → ϗοϓϑΟʔϧυɿεϐϯܥͷཧֶͷݪཧΛԠ༻ͨ͠ʮϗοϓϑΟʔϧυ
ωοτϫʔΫʯΛ։ൃ͠ɺσʔλύλʔϯͷอଘͱ෮ݩΛ࣮ݱɻ → ώϯτϯɿʮϘϧπϚϯϚγϯʯΛ։ൃ͠ɺσʔλ͔ΒಛΛֶश͢Δٕज़ Λཱ֬ɻAIͱػցֶशͷඈ༂తͳਐలʹߩݙɻ • Өڹ → AIͱཧֶͷ༥߹ʹΑΔൃలΛଅਐ͠ɺԠ༻ͰͷՄೳੑΛେ͖֦͘େɻ
"(*Ԭͷҙٛ w "(*࣌ʹ͚ͯɺࠓ͔ΒͰ͖Δ͜ͱΛڞʹߟ͑ɺ ࣮ߦ͍ͯ͜͠͏ʂ
ӡӦऀհ w զ࠺ʢ4"*-BCגࣜձࣾʣ w ۙ౻ݑࣇʢגࣜձࣾελσΟετʣ w େ৴ߊʢ/0#%"5"גࣜձࣾʣ w ੨྄ʢςΠϧΠϯυגࣜձࣾʣ
දऀհ զ࠺ :VLJOBHB"[VNB !ZVLZ@B[ 4"*-BCגࣜձࣾදऔక w "*ؔ࿈ͷڭҭɺݚڀ w ཧֶത࢜ʢཧֶʣ w
๏େֶσβΠϯֶ෦݉ߨࢣ w 6EFNZͰສਓΛࢦಋ w ༗໊اۀͰ"*ݚमΛ୲ w ஶॻʹʮ͡ΊͯͷσΟʔϓϥʔχϯάʯͳͲ w झຯϒϥδϦΞϯॊज़"*Ξʔτ
ϋογϡλά BHJGVLVPLB
"(*Ԭ%JTDPSEίϛϡχςΟ
:PV5VCFϥΠϒ ʮ&OHJOFFSDBGF"(*ԬʯͰ:PV5VCFݕࡧ
ࠓճͷίʔυ IUUQTHJUIVCDPNZVLJOBHBIPQ fi FME@CPMU[NBOO
ϗοϓϑΟʔϧυωοτϫʔΫͱʁ
δϣϯɾϗοϓϑΟʔϧυࢯͷհ ݚڀऀͱͯ͠ͷܦྺ • ੜ·ΕɺΞϝϦΧͷཧֶऀɾੜཧֶऀ • ϓϦϯετϯେֶͰཧֶΛઐ߈ʢ1I%ʣ • ΧϦϑΥϧχΞՊେֶɺϓϦϯετϯେֶͳͲͰڭ佃 • ཧֶ͔ΒਆܦՊֶݚڀྖҬΛ֦େ
• ෳࡶܥͷݚڀͰଟେͳޭ ओͳۀͱධՁ • ɿϗοϓϑΟʔϧυωοτϫʔΫΛఏҊ • ཧֶͷ֓೦Λ༻͍ͯχϡʔϥϧωοτΛཧԽ • ݱͷਂֶशͷཧతج൫Λங͍ͨઌۦऀͷҰਓ Ill. Niklas Elmehed © Nobel Prize Outreach
ϗοϓϑΟʔϧυωοτϫʔΫͷݩจ ถࠃՊֶΞΧσϛʔلཁʹܝࡌ IUUQTXXXQOBTPSHEPJQOBT
جຊΞʔΩςΫνϟ ωοτϫʔΫߏ • ͯ͢ͷχϡʔϩϯ͕૬ޓʹ݁߹ • ֤χϡʔϩϯํʹଓɺͨͩࣗ͠ݾ݁߹ଘࡏ͠ͳ͍ • ݁߹ͷॏΈରশతʢ ʣ •
χϡʔϩϯͷঢ়ଶࢄʢ ʣ·ͨೋʢ ʣ ಈ࡞ͷಛ • ΤωϧΪʔؔ ʹجͮ͘ঢ়ଶߋ৽ ◦ ɿχϡʔϩϯ ͷᮢʢόΠΞεʣ • ඇಉظతͳঢ়ଶߋ৽ʢҰʹͭͷχϡʔϩϯʣ • ہॴతͳใͷΈͰߋ৽அ • ΤωϧΪʔ࠷খԽʹΑΔ҆ఆঢ়ଶͷऩଋ • ཧֶͷεϐϯάϥεϞσϧͱྨࣅͨ͠ৼΔ͍ wij = wji si ∈ − 1, + 1 si ∈ 0,1 E = − 1 2 ∑ i,j wij si sj − ∑ i θi si θi i
ಈ࡞ݪཧ ঢ়ଶߋ৽ͷϝΧχζϜ • ֤χϡʔϩϯͷೖྗɿ • ߋ৽نଇɿ ࢄʢۃੑʣͷ߹ɿ ೋʢ୯ۃੑʣͷ߹ɿ
• ඇಉظతͳߋ৽ʢϥϯμϜʹબΜͩͭͷχϡʔϩϯΛߋ৽ʣ • ͯ͢ͷχϡʔϩϯ͕҆ఆ͢Δ·Ͱ܁Γฦ͠ hi = ∑ j wij sj + θi si = { +1 JG hi ≥ 0 −1 JG hi < 0 si = { 1 JG hi ≥ 0 0 JG hi < 0
ಈ࡞ݪཧ ΤωϧΪʔͱऩଋ • ΤωϧΪʔؔঢ়ଶߋ৽ʹΑΓ୯ௐݮগ • γεςϜඞͣہॴ࠷খʹऩଋ • ࠷ऴঢ়ଶॳظঢ়ଶʹґଘ • ΤωϧΪʔܗͷΠϝʔδɿ
◦ࢁʢෆ҆ఆঢ়ଶʣ͔Β୩ʢ҆ఆঢ়ଶʣ ◦ෳͷ҆ఆঢ়ଶʢہॴ࠷খʣ͕ଘࡏ ◦هԱύλʔϯ҆ఆঢ়ଶͷҰͭʹରԠ
ֶशͱهԱ ֶशʢॏΈͷܾఆʣ • ݁߹ՙॏͷֶशଇɿ ʢ ʣ ◦ ɿχϡʔϩϯ ◦ ɿهԱͤ͞Δύλʔϯ
◦ ɿύλʔϯ ʹ͓͚Δχϡʔϩϯ ͷঢ়ଶ • ҰͷܭࢉͰॏΈΛܾఆʢඇ෮తʣ • ੜֶతͳϔϒଇʹجͮ͘ هԱ༰ྔͱಛ • ཧతͳهԱ༰ྔɿ ◦ ݸͷχϡʔϩϯͰ ݸͷύλʔϯΛهԱՄೳ • ϊΠζΛؚΉೖྗ͔Βͷى͕Մೳ • ύλʔϯͷҰ෦͔ΒશମΛ࠶ߏ wij = 1 N ∑p μ=1 sμ i sμ j i ≠ j N p sμ i μ i pmax ≈ 0.14N N 0.14N
Ԡ༻ྫͱಛ දతͳԠ༻ྫ • ࿈هԱγεςϜ ◦ύλʔϯ෮ݩɾϊΠζআڈ ◦ෆશͳೖྗ͔Βͷى • Έ߹Θͤ࠷దԽ ◦८ճηʔϧεϚϯ ◦εέδϡʔϦϯά
རͱݶք • རɿฒྻॲཧ͕ՄೳɺϋʔυΣΞ࣮͕༰қ • ݶքɿهԱ༰ྔͷ੍ݶʢ ʣɺہॴղʹؕΔՄೳੑ 0.14N
ൃలͱӨڹ తͳൃల • ϘϧπϚϯϚγϯͷਐԽ ◦֬తͳৼΔ͍ͷಋೖɺӅΕͷՃ • ࿈ଓϞσϧͷ։ൃ ◦ΞφϩάχϡʔϩϯͷಋೖɺΑΓ๛͔ͳදݱೳྗͷ֫ಘ ݱͷӨڹ •
ཧֶͷݟͷ׆༻ ◦ΤωϧΪʔ࠷খԽʹΑΔֶश ◦֬తΞϓϩʔνͷجૅ
ϗοϓϑΟʔϧυωοτϫʔΫͷίʔυ IUUQTHJUIVCDPNZVLJOBHBIPQ fi FME@CPMU[NBOOUSFFNBJOTFDUJPO@
ϘϧπϚϯϚγϯͱʁ
δΣϑϦʔɾώϯτϯࢯͷհ Ill. Niklas Elmehed © Nobel Prize Outreach ܦྺͱݚڀ •
ΠΪϦεੜ·ΕɺʮσΟʔϓϥʔχϯάͷʯ • τϩϯτେֶڭतɺ(PPHMF3FTFBSDIॴଐ • ೝ৺ཧֶ͔Βਓೳݚڀ • ਂֶशͷཧతجૅΛཱ֬ ओͳۀ • ޡࠩٯ๏ͷ࠶ൃݟʢʣ • %FFQ#FMJFG/FUXPSLͷఏҊʢʣ • νϡʔϦϯάडʢʣ • "*҆શੑͷܯʢʣ
ϘϧπϚϯϚγϯͷݩจ τϩϯτେֶͷΣϒαΠτʹܝࡌ IUUQTXXXDTUPSPOUPFEVdGSJU[BCTQTDPHTDJCNQEG
എܠͱੜ ։ൃͷഎܠ • ɺϗοϓϑΟʔϧυωοτϫʔΫͷݶք • ౷ܭྗֶʢϘϧπϚϯʣͷԠ༻Λண • )JOUPO4FKOPXTLJʹΑΔڞಉݚڀʢʣ • ֬తͳৼΔ͍ͷಋೖ
ओཁͳֵ৽ • ֬తͳχϡʔϩϯͷಋೖ • ԹύϥϝʔλʹΑΔ੍ޚ • ӅΕϢχοτͷಋೖ • ΤωϧΪʔ࠷খԽͱ֬తֶशͷ౷߹
جຊΞʔΩςΫνϟ ωοτϫʔΫߏ • ՄࢹͱӅΕͷߏ • ͯ͢ͷϢχοτ͕ؒํʹ݁߹ • ֬తͳঢ়ଶભҠɿ ◦
ɿঢ়ଶมԽʹ͏ΤωϧΪʔมԽ ◦ ɿԹύϥϝʔλ ΤωϧΪʔؔ • ◦ ɿϢχοτؒͷ݁߹ॏΈ ◦ ɿϢχοτͷঢ়ଶʢ·ͨʣ ◦ ɿόΠΞε߲ • Թ ʹΑͬͯঢ়ଶΛ੍ޚ p(si = 1) = 1 1 + e−ΔEi/T ΔEi T E = − ∑ i<j wij si sj − ∑ i θi si wij si θi T
ಈ࡞ϝΧχζϜ ঢ়ଶભҠͷΈ • ϘϧπϚϯʹै͏֬తͳঢ়ଶߋ৽ ◦ ◦ ɿؔ ɿશϢχοτͷঢ়ଶϕΫτϧ •
ΪϒεαϯϓϦϯάʹΑΔঢ়ଶભҠ ◦ϥϯμϜʹબΜͩϢχοτΛ֬తʹߋ৽ ◦ฏߧঢ়ଶʹ౸ୡ͢Δ·Ͱ܁Γฦ͠ Թ੍ޚͱ࠷దԽ • γϛϡϨʔςουΞχʔϦϯάͷར༻ ◦ߴԹ͔Β։࢝͠ɺঃʑʹԹΛԼ͛Δ ◦ہॴղճආͱେҬత࠷దԽ • ԹʹΑΔ୳ࡧɾऩଋͷ੍ޚ ◦ߴԹɿϥϯμϜͳ୳ࡧԹɿہॴతͳ࠷దԽ P(s) = 1 Z e−E(s)/T Z s
ֶशΞϧΰϦζϜ ֶशͷجຊࣜ • ॏΈߋ৽ଇɿ ◦ ɿֶश ◦ ɿσʔλͷظʢਖ਼૬ʣ ◦
ɿϞσϧͷظʢෛ૬ʣ ্࣮ͷ • ίϯτϥεςΟϒμΠόʔδΣϯεʢ$%ʣ๏ͷಋೖ ◦શͳऩଋΛͨͣʹֶश ◦গεςοϓͷαϯϓϦϯάͰ༻ • Թεέδϡʔϧͷઃఆ ◦ֶशॳظߴԹͰ୳ࡧతʹ ◦ֶशޙظԹͰऩଋΛଅਐ Δwij = η(⟨si sj ⟩data − ⟨si sj ⟩model ) η ⟨ ⋅ ⟩data ⟨ ⋅ ⟩model
ൃలͱԠ༻ Ϟσϧͷൃల • ੍ݶϘϧπϚϯϚγϯʢ3#.ʣͷߟҊ ◦ؒͷΈͷ݁߹ʹΑΔޮԽ ◦%FFQ#FMJFG/FUXPSLͷجૅʹ • %FFQ-FBSOJOHֵ໋ͷߩݙ ◦ਂֶशͷࣄલֶशख๏ͱͯ͠׆༻ ◦ੜϞσϧͷجຊ֓೦Λཱ֬
ϘϧπϚϯϚγϯͷίʔυ IUUQTHJUIVCDPNZVLJOBHBIPQ fi FME@CPMU[NBOOUSFFNBJOTFDUJPO@
Ԭͷ"(* Γ্͍͖͛ͯ·͠ΐ͏ʂ