$30 off During Our Annual Pro Sale. View Details »
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Pythonではじめる機械学習(教師あり学習)
Search
KURUM
January 10, 2018
Technology
0
590
Pythonではじめる機械学習(教師あり学習)
Pythonではじめる機械学習(教師あり学習)
KURUM
January 10, 2018
Tweet
Share
More Decks by KURUM
See All by KURUM
SQSとPipesで回す BedrockによるPDF解析
kuniiskywalker
0
96
Other Decks in Technology
See All in Technology
さくらのクラウド開発ふりかえり2025
kazeburo
2
130
AIエージェント開発と活用を加速するワークフロー自動生成への挑戦
shibuiwilliam
4
660
2025年 開発生産「可能」性向上報告 サイロ解消からチームが能動性を獲得するまで/ 20251216 Naoki Takahashi
shift_evolve
PRO
2
210
プロンプトやエージェントを自動的に作る方法
shibuiwilliam
15
15k
AIBuildersDay_track_A_iidaxs
iidaxs
3
510
20251219 OpenIDファウンデーション・ジャパン紹介 / OpenID Foundation Japan Intro
oidfj
0
330
AIの長期記憶と短期記憶の違いについてAgentCoreを例に深掘ってみた
yakumo
4
470
AWSインフルエンサーへの道 / load of AWS Influencer
whisaiyo
0
170
re:Invent2025 3つの Frontier Agents を紹介 / introducing-3-frontier-agents
tomoki10
0
320
ペアーズにおけるAIエージェント 基盤とText to SQLツールの紹介
hisamouna
2
960
会社紹介資料 / Sansan Company Profile
sansan33
PRO
11
390k
Kiro を用いたペアプロのススメ
taikis
3
1k
Featured
See All Featured
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
25
1.7k
How Software Deployment tools have changed in the past 20 years
geshan
0
29k
Money Talks: Using Revenue to Get Sh*t Done
nikkihalliwell
0
120
Design in an AI World
tapps
0
92
We Have a Design System, Now What?
morganepeng
54
7.9k
Agile Leadership in an Agile Organization
kimpetersen
PRO
0
46
Information Architects: The Missing Link in Design Systems
soysaucechin
0
710
Lessons Learnt from Crawling 1000+ Websites
charlesmeaden
0
940
The B2B funnel & how to create a winning content strategy
katarinadahlin
PRO
0
170
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
55
3.2k
What does AI have to do with Human Rights?
axbom
PRO
0
1.9k
Code Review Best Practice
trishagee
74
19k
Transcript
PythonͰ͡ΊΔػցֶश ڭࢣ͋Γֶश 2ষ
▪ 自己紹介 ΞδΣϯμ ▪ 2.1ɹΫϥεྨͱճؼ ▪ 2.2ɹ൚Խɺաద߹ɺద߹ෆ ▪ 2.3ɹڭࢣ͋ΓػցֶशΞϧΰϦζϜ
Twi$erID: @kuniiskywalker ࣗݾհ 仕事:ソフトウェア・デベロッパー 趣味:minecra5 機械学習は個人的に勉強中
2.1ɹΫϥεྨͱճؼ
教師あり機械学習問題は⼤きく「クラス分類」と「回帰」に分類される 回帰 クラス分類 Ϋϥεྨͱճؼ
Ϋϥεྨ
Ϋϥεྨ త ͋Β͔͡ΊఆΊΒΕͨબࢶͷத͔ΒΫϥεϥϕϧΛ༧ଌ͢Δ͜ͱ 2Ϋϥεྨ ଟΫϥεྨ
2Ϋϥεྨ ྨثΛ༻͍ͯదͳ2छྨͷʮΫϥεʯʹྨ͢Δํ๏ ྫɿϝʔϧ͕εύϜ͔൱͔
ଟΫϥεྨ 3ͭҎ্ͷΫϥε͢Δํ๏ ྫɿखॻ͖ࣈͷը૾͔ΒࣈΛೝࣝ
ճؼ
ճؼ త ࿈ଓͷ༧ଌ גՁͷมಈ༧ ڝഅͷ༧
Ϋϥεྨͱճؼͷ͍͚ ΫϥεྨͱճؼΛ۠ผ͢Δʹɺग़ྗʹ࿈ଓੑ͕͋Δ͔ߟ͑Δ
2.2ɹ൚Խɺաద߹ɺద߹ෆ
൚Խ Ϟσϧ͕ະͷσʔλʹରͯ͠༧ଌग़དྷ͍ͯΔঢ়ଶ
աద߹ ܇࿅ηοτʹద߹͗ͯ͢͠ɺ৽͍͠σʔλʹରͯ͠༧ଌͰ͖ͯͳ͍ Overfitting
ద߹ෆ ୯७͗͢ΔϞσϧʢಛྔ͕গͳ͍ʣͰɺ ະͷσʔλʹରͯ͢͠Δ༧ଌਫ਼͕Ͱͳ͍ঢ়ଶ ྫɿϘʔτΛߪೖͨ͠ͱ͍͏ಛྔ͚ͩͩͱɺஉੑͱঁੑͷ߹ߪೖ࣌ظͳͲ ɹɹߟྀ͠ͳ͍ͱ༧ଌʹରͯ͠ਫ਼͕ग़ͳ͍ Underfitting
ڭࢣ͋ΓػցֶशΞϧΰϦζϜ
ʢέΠ͖Μ΅͏΄͏ʣ K-࠷ۙ๏ ֶशσʔλΛϕΫτϧ্ۭؒʹϓϩοτ͓͖ͯ͠ɺະͷσʔλ͕ಘΒΕͨΒɺ ͔ͦ͜Βڑ͕͍ۙॱʹҙͷKݸΛऔಘ͠ɺଟܾͰσʔλ͕ଐ͢ΔΫϥεΛਪఆ͢Δɻ
ઢܗϞσϧ ʮతมʯͱʮઆ໌มʯͷؔੑΛઢܗͰ͋ΒΘͨ͠ͷ తม આ໌ม
ઢܗϞσϧʹΑΔճؼ ઢܗճؼ Ϧοδճؼ Lassoճؼ Α͘ΘΕΔճؼख๏ ύϥϝʔλʔΛ܇࿅σʔλ͔Βֶश͢Δํ๏ Ϟσϧͷෳࡶ͞Λ੍ޚ͢Δํ๏
ઢܗϞσϧʹΑΔճؼ Ұൠతͳ༧ଌࣜ yˆ=w[0]×x[0]+w[1]×x[1]+ɾɾɾ+w[p]×x[p]+b ɾ wͱbֶश͞ΕͨϞσϧͷύϥϝʔλʔ ɾ yˆϞσϧ͔Βͷ༧ଌ ɾpಛྔͷ ɾ w͖Λද͢ύϥϝʔλʔͰॏΈɺ͘͠ݺΕΔ
ɾ bย ʢಛྔ͕ෳͷ߹ʣ
ઢܗϞσϧʹΑΔճؼ
ઢܗճؼ(௨ৗ࠷খೋ๏) ਫ৭ͷઢͷ͞ͷೋͷ͕࠷খʹͳΔઢΛͱΊΔ
正則化を使った回帰 ਖ਼ଇԽͱʁ աద߹Λ;͙ͤͨΊʹΛ͑ΔΈ L2ਖ਼ଇԽͱL1ਖ਼ଇԽ͕͋Δ
L2ਖ਼ଇԽ Ϟσϧͷաద߹Λ͙ͨΊʹɺ ͷେ͖͞Λ࠷খݶʹͯ͠ग़ྗͷӨڹΛ͑Δಛ͕͋Δ ͷେ͖͞Λ࠷খݮʹ͢Δ > Λ0ʹ͚ۙͮΔ > ग़ྗͷӨڹΛ͑Δ > աద߹Λ͙
L1ਖ਼ଇԽ ͍͔ͭ͘ͷΛશʹ0ʹ͢Δ = ͍͔ͭ͘ͷಛΛແࢹ͢Δ ݁Ռಛྔͷݟ௨͕͠Α͘ͳΓɺॏཁͳͷ͕໌Β͔ʹͳΔ
リッジ回帰 ༧ଌʹ͏ࣜɺ௨ৗ࠷খೋ๏ͱಉ͡ ઢܗճؼʹL2ਖ਼ଇԽΛࢪͨ͠ͷ
Lassoճؼ ༧ଌʹ͏ࣜɺ௨ৗ࠷খೋ๏ͱಉ͡ ઢܗճؼʹL1ਖ਼ଇԽΛࢪͨ͠ͷ