Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
The Hundred Machine Learning 7.4-7.7
Search
ganyariya
September 12, 2020
Technology
0
62
The Hundred Machine Learning 7.4-7.7
ganyariya
September 12, 2020
Tweet
Share
More Decks by ganyariya
See All by ganyariya
FastAPI+VercelでZennのバッジをお手軽に作る
ganariya
0
890
ありがとう競技プログラミングこんにちはDocker
ganariya
0
1.6k
輪講 The hundred ML3.3-3.5
ganariya
0
98
Other Decks in Technology
See All in Technology
KotlinConf 2025_イベントレポート
sony
1
130
RSCの時代にReactとフレームワークの境界を探る
uhyo
10
3.4k
複数サービスを支えるマルチテナント型Batch MLプラットフォーム
lycorptech_jp
PRO
0
330
AIエージェント開発用SDKとローカルLLMをLINE Botと組み合わせてみた / LINEを使ったLT大会 #14
you
PRO
0
110
生成AIでセキュリティ運用を効率化する話
sakaitakeshi
0
660
CDK CLIで使ってたあの機能、CDK Toolkit Libraryではどうやるの?
smt7174
4
160
5年目から始める Vue3 サイト改善 #frontendo
tacck
PRO
3
220
フルカイテン株式会社 エンジニア向け採用資料
fullkaiten
0
8.7k
5分でカオスエンジニアリングを分かった気になろう
pandayumi
0
240
AI開発ツールCreateがAnythingになったよ
tendasato
0
130
AWSで始める実践Dagster入門
kitagawaz
1
610
現場で効くClaude Code ─ 最新動向と企業導入
takaakikakei
1
240
Featured
See All Featured
The Art of Delivering Value - GDevCon NA Keynote
reverentgeek
15
1.6k
Bootstrapping a Software Product
garrettdimon
PRO
307
110k
Dealing with People You Can't Stand - Big Design 2015
cassininazir
367
27k
The Cult of Friendly URLs
andyhume
79
6.6k
Understanding Cognitive Biases in Performance Measurement
bluesmoon
29
1.9k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
51
5.6k
Producing Creativity
orderedlist
PRO
347
40k
CoffeeScript is Beautiful & I Never Want to Write Plain JavaScript Again
sstephenson
162
15k
The Pragmatic Product Professional
lauravandoore
36
6.9k
How STYLIGHT went responsive
nonsquared
100
5.8k
Writing Fast Ruby
sferik
628
62k
Building a Scalable Design System with Sketch
lauravandoore
462
33k
Transcript
ྠߨ 5IF.- <r > HBOBSJZB ganariya ganariya2525 ganariya2525 ganariya’s blog
ganariya ganariya
2 / N όΠΞεͱࢄ • όΠΞε • ࢄ 予測値
.VMUJ-BCFM$MBTTJGJDBUJPO
4 / N .VMUJ$MBTTWT.VMUJ-BCFM 多クラス モデル (決定⽊ softmax) ねこ うさぎ
いぬ 多ラベル モデル (決定⽊ binary cross entropy) ミシン ⾞ 警察官 タキシード 複数出⼒
5 / N ଟϥϕϧྨ ֶशΞϧΰϦζϜ • σʔληοτΛʮը૾ϥϕϧʯ͕ҰରҰʹͳΔΑ͏ʹ ૢ࡞ͯ͠ɺ৽͍͠σʔληοτʹ͢Δ • ৽͍͠σʔληοτΛͬͯʮଟΫϥεϞσϧʯΛֶ
श͢Δ ミシン ⾞ 警察官 タキシード
6 / N ଟϥϕϧྨ Ϟσϧͱ༧ଌ • ༻Ͱ͖ΔϞσϧʮଟΫϥεྨʯ • ܾఆ •
ϩδεςΟοΫճؼ • /FVSBM/FUXPSL • ग़ྗΫϥε࣍ݩͷϕΫτϧͰ < >ͷ֬Ͱ͋Δ NN ミシン ⾞ 警察官 タキシード ⽝ sigmoid
7 / N ଟϥϕϧྨ // • //ʹ͓͚Δଟϥϕϧྨ • ֤VOJUͷίετؔCJOBSZDSPTTFOUSPQZ •
∈ 1, … , , ∈ 1, … , ϥϕϧ Ϋϥε ͷ • !,# ൪ͷσʔληοτͷ࣍ݩͷϥϕϧͷ֬ • ֬తޯ߱Լ๏ͱ૬ੑ͕ྑ͍ • ࠷খԽج४ BWH FBDIVOJU
8 / N ଟϥϕϧྨ 'BLF$MBTT • ϥϕϧ͕গͳ͍߹ ֤ଐੑ͕औΓ͏Δͷ ૯߹ͤͰِΫϥεΛ ࡞ͬͯଟྨͰ͖Δ
• ϝϦοτͱͯ͠ʮϥϕϧؒͷ૬ؔʯΛߟ͑ͯྨ͢Δ ͜ͱ͕Ͱ͖Δ • ʮTQBNͦ͏ ༏ઌ͕ߴͦ͏ʯͷϝʔϧͰ͖Δ͚ͩ ൃੜ͠ͳ͍Α͏ʹ͍ͨ͠
&OTFNCMF-FBSOJOH
10 / N Ξϯαϯϒϧֶश UMES • ,BHHMFͷίϯϖͰΑ্͘ҐʹೖΔΞϧΰϦζϜ • ऑֶशثΛෳͬͯΈ߹ΘͤΔ •
൚ԽೳྗΛ্͛Δ アンサンブル Bagging Boosting Random Forest
11 / N Ξϯαϯϒϧͷख๏ • ϒʔεςΟϯά • ΦϦδφϧͷσʔλΛ༻͍ͯऑֶशثΛ࡞Δ • ͦͷޙɺ܁Γฦ͠ʮલϞσϧͷޡࠩΛमਖ਼͢ΔʯΑ͏ʹ
৽͍͠ϞσϧΛߏங͢Δ • όΪϯά • ݩͷσʔλ͔ΒʮίϐʔʯΛϥϯμϜʹ࡞͠ খ͞ͳऑֶशثΛେྔʹ࡞ͬͯҙݟΛΈ߹ΘͤΔ • ༗໊ͳͷ͕ϥϯμϜϑΥϨετ
12 / N WBOJMMBCBHHJOH • ݩͷֶशσʔλ͔ΒϒʔτετϥοϓͰऔΓग़͠ ݸͷܾఆΛߏங͢Δ ೖྗxʹରͯ͠ݸͷग़ྗͷฏۉΛऔΔ 学習全データ !
" # ブートストラップ 重複許してランダムに データを取り出す
13 / N ϥϯμϜϑΥϨετ • ઌఔͷWBOJMMBCBHHJOHʹҰ෦मਖ਼ΛՃ͑ͨϞσϧ • ֤ܾఆͰׂج४ͷಛྔΛϥϯμϜʹݸʹߜΔ ! "
# 元特徴量
14 / N ͳͥಛྔΛߜΔͷʁ • ͳͥͰ͠ΐ͏͔
15 / N ͳͥಛྔΛߜΔͷʁ • ܾఆಉ͕࢜૬͍ؔͯ͠·͏ • ऑֶशثΛෳ࡞Δҙຯ͕ͳ͍ • ͋Δಛྔʹґଘͯ͠͠·͏Մೳੑ͕͋Δ
• ਓؒͷίϛϡχςΟʹ͍͠ • ͋Δࢥʹภͬͨਓ͕ؒू·Δͱ͕ൃੜ͢Δ • ձࣾՄೳͳݶΓʮ͍Ζ͍ΖͳλΠϓʯ͕ू·ͬͨ΄͏͕ ޭ͢ΔͱݴΘΕ͍ͯΔ
16 / N 3'ͷϝϦοτ • ϥϯμϜϑΥϨετΞϯαϯϒϧֶशͰ ࠷͘༻͍ΒΕΔ • ࠷ऴϞσϧͷࢄ͕খ͘͞ͳΔ •
ࢄ͕খ͍͞ͱ͍͏͜ͱʮաֶशʯ͍ͯ͠ͳ͍ • ग़ྗ͕Β͔ͭͳ͍
17 / N (SBEJFOU#PPTUJOH • (SBEJFOU#PPTUJOH ޯϒʔεςΟϯά • ऑֶशثΛ܁Γฦ͠࡞ͯ͠ લϞσϧͷޡࠩΛগͣͭ͠ݮΒ͍ͯ͘͠
• ·ͣճؼʢ࣮༧ଌʣʹ͍ͭͯߟ͑Δ
18 / N (SBEJFOU#PPTUJOH ܾఆ $ 元データ集合 % は個⽬のデータ
19 / N (SBEJFOU#PPTUJOH ܾఆ $ 元データ集合 % は個⽬のデータ 新しいラベル%
% を作る residual(残余誤差)と呼ばれる
20 / N (SBEJFOU#PPTUJOH ܾఆ $ 元データ集合 % は個⽬のデータ !
この時点で新全体モデル が構築できる
21 / N (SBEJFOU#PPTUJOH ܾఆ $ 元データ集合 % は個⽬のデータ !
新たに誤差を作成する $ のみのときより誤差が 減っている
22 / N (SBEJFOU#PPTUJOH ܾఆ $ 元データ集合 % は個⽬のデータ !
"
23 / N (SBEJFOU#PPTUJOH ܾఆ $ 元データ集合 % は個⽬のデータ !
" 誤差を直接修正していく
24 / N ޯϒʔεςΟϯάʁ • ͳͥʮޯϒʔεςΟϯάʯʮޯϒʔεςΟϯ άʯͳͷ͔ʁ • ͜Ε·ͰͷճؼϞσϧͰඍʹΑΓʮޯʯΛٻΊ ͯҠಈ͍ͯͨ͠
• ޯϒʔεςΟϯάͰʮࠩޡࠩʯͰҠಈ͢Δ • ম͖ͳ·͠ͱ͔ 140ͬΆ͍
25 / N (#GPS$MBTTJGJDBUJPO • ྨͰͷޯϒʔεςΟϯά CJOBSZ • ݸͷܾఆ •
ΞϯαϯϒϧֶशʹΑΔ༧ଌ • ֤ܾఆͷ༧ଌΛ߹ܭͯ͠γάϞΠυͰ< >ͷ֬ͱ͢Δ • $ Λ࠷େԽ͢Δ MPH
26 / N ֶशΞϧΰϦζϜ • = & = ' ()'
, = ( * ∑+ + ͱॳظԽ͢Δ • ֤ΠςϨʔγϣϯ ݸͷܾఆߏங • ݸͷσʔλͷޯΛܭࢉ͢Δ • ! Λ༻͍ͯσʔληοτΛߋ৽͢Δ • ৽͍ܾ͠ఆ% Λߏங͢Δ • ߋ৽εςοϓ% Λܭࢉ͢Δ • ݸͷܾఆͱશମϞσϧΛߏங͢Δ
27 / N ϝϦοτ σϝϦοτ • ޯϒʔεςΟϯάਫ਼ͷ໘ͰϥϯμϜϑΥϨετ ʹൺͯलͰ͍ͯΔ • ͨͩ͠ɺஞ࣍ॲཧͳͨΊ܇࿅ॲཧ͕͍
3//ͷ3FWJFX
29 / N 3// • ʮ෦هԱʯΛ࣋ͭ͜ͱͰ࿈ଓσʔλΛॲཧͰ͖Δ • ࠨଆͱӈଆʮಉ͡ʯ ӈଆʮ࣌ܥྻͰ͔Γ͘͢ͳΔΑ͏ʹʯల։͚ͨͩ͠ •
-45.HBUFE3//Ͱԕ͍هԱࢀরͰ͖ΔΑ͏ʹ ͳͬͨ
30 / N ಈ࡞ྫ • 5IJTJTB\\^^ σʔληοτͷ̍σʔλ TJ[F
31 / N ಈ࡞ྫ • 5IJTJTB\\^^
32 / N ಈ࡞ྫ • 5IJTJTB\\^^
33 / N ಈ࡞ྫ • 5IJTJTB\\^^
34 / N #BH0G8PSET • ࣮ࡍ͜ͷʮ5IJTʯͬͯͲ͏ೖ͍ͬͯΔͷʁ • ͦͷ··ೖΒͳ͘ͳ͍ʁ • ϕΫτϧʹม͢Δ
• ྫ͑༗໊ͳ୯ޠ࣍ݩʹݻఆ͢Δ • ࠷ۙࢄදݱ 8PSE7FD
35 / N ಈ࡞ྫ #P8 • 5IJTJTB\\^^
-FBSOJOHUP-BCMF 4FRVFODFT
37 / N 4FRVFODF • 4FRVFODF γʔέϯε ඇৗʹॏཁͳσʔλ • ͠ݴ༿
• Իָ • ϏσΦ • 4FRVFODFMBCFMJOH • γʔέϯεͷʮ֤ཁૉ͝ͱʹ֤ϥϕϧʯΛׂΓͯΔ • ಛϕΫτϧू߹ ϥϕϧϕΫτϧू߹ • ! = [x& ' , … , x! ()!*+!)>ݸͷσʔλϕΫτϧ • ! ಉ༷ʹݸͷσʔλ
38 / N $POEJUPOBM 3BOEPN'JFME • γʔέϯεϥϕϦϯά3//͚ͩͰͳ͘ ͖݅֬ $3' ͱ͍͏Ϟσϧ͋Δ
ಛϕΫτϧ͕ଟ͘ͷใྔΛ͍࣋ͬͯΔͱ͖ʹྑ͍ • ϕΫτϧͷಛྔΛઐՈ͕ઃఆ͢Δ ͍͠ • ʮϩδεςΟοΫճؼʯͷΞϧΰϦζϜΛγʔέϯε ʹҰൠԽͨ͠ͷ • ํHBUFE 3//ΑΓྑ͍ਫ਼Λग़͢͜ͱ͕͋Δ • ͨͩ͠ɺ$3'ͷֶशඇৗʹ͍
4FR4FR-FBSOJOH https://qiita.com/halhorn/items/646d323ac45 7715866d4
40 / N TFRTFR • TFRTFRTFRVFODFMBCFMJOHQSPCMFNͷҰൠԽ +, + ͷ͕͞ՄมʹͰ͖Δ •
༁ͳͲଟ͘ͷࣗવݴޠॲཧͰ༻͍ΒΕΔ • ʮೖྗ͞ΕΔϕΫτϧΛղऍ͢ΔʯΤϯίʔμʔ ʮղऍ͞ΕͨϕΫτϧ͔Βग़ྗϕΫτϧΛੜ͢Δʯ σίʔμʔ ͷ͔̎ͭΒͳΔ
41 / N TFRTFRΞʔΩςΫνϟ • Τϯίʔμʔ • 3//$//ͷΑ͏ͳΞʔΩςΫνϟ • ೖྗ͞ΕͨϕΫτϧΛʮղऍʯ͢ΔϕΫτϧ
ʮUIPVHIUWFDUPSʯΛੜͯ͠σίʔμʔʹ • σίʔμʔ • Τϯίʔμʔ͔ΒUIPVHIUWFDUPSΛड͚औͬͯ ࣮ࡍʹγʔέϯεΛੜ͢Δ
42 / N TFRTFRΤϯίʔμʔ
43 / N TFRTFRΤϯίʔμʔ
44 / N TFRTFRΤϯίʔμʔ
45 / N TFRTFRΤϯίʔμʔ 内部に隠れていた thought vectorをdecorder側へ
46 / N TFRTFRσίʔμʔ 内部に隠れていた thought vectorをdecorder側へ
47 / N TFRTFRσίʔμʔ 内部に隠れていた thought vectorをdecorder側へ
48 / N TFRTFRσίʔμʔ 内部に隠れていた thought vectorをdecorder側へ
49 / N TFRTFRֶश • ΤϯίʔμʔͱσίʔμʔΛಉ࣌ʹ ܇࿅σʔλΛ༻ֶ͍ͯश͢Δ ޡࠩσίʔμʔଆ͔ΒΤϯίʔμʔଆٯ ͞ΕΔ
50 / N "UUFOUJPO • "UUFOUJPO TFRTFR$//ͳͲͰซ༻ͯ͠ ༻͍ΒΕΔΞʔΩςΫνϟ • ʮΤϯίʔμʔଆͷͲͷ෦ʹண͢Δ͔ʁʯΛ
"UUFOUJPOσίʔμʔଆʹڭ͑Δ
51 / N TFRTFRͷܽ • TFRTFRͰʮΤϯίʔμʔʯͰͷ࠷ޙͷग़ྗʹ͓͚ ΔʮӅΕϕΫτϧͷΈʯΛσίʔμʔʹ͢ • ͲͷೖྗϕΫτϧʹ͖͔͔͢Βͳ͍ •
ใྔ͕ൈ͚མͪͯ͠·͏
52 / N Ξςϯγϣϯྫ • σίʔμʔ ग़ྗγʔέϯεੜ࣌ʹ "UUFOUJPOػߏ͔ΒϕΫτϧΛऔΓग़ͯ͠ ʮͲͷೖྗʹண͢Δ͔ʁʯΛܾΊΔ
53 / N Ξςϯγϣϯྫ ը૾ྫ