Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
技術力で世界と戦う機械学習コンペティション「Kaggle」の魅力 / Attractiven...
Search
Shotaro Ishihara
September 07, 2019
Technology
3
2.9k
技術力で世界と戦う 機械学習コンペティション「Kaggle」の魅力 / Attractiveness of Kaggle
AIchi勉強会での登壇資料
https://connpass.com/event/134720/
Shotaro Ishihara
September 07, 2019
Tweet
Share
More Decks by Shotaro Ishihara
See All by Shotaro Ishihara
日本語新聞記事を用いた大規模言語モデルの暗記定量化 / LLMC2025
upura
0
180
Quantifying Memorization in Continual Pre-training with Japanese General or Industry-Specific Corpora
upura
1
37
JOAI2025講評 / joai2025-review
upura
0
420
AI エージェントを活用した研究再現性の自動定量評価 / scisci2025
upura
1
150
JSAI2025 企画セッション「人工知能とコンペティション」/ jsai2025-competition
upura
0
44
生成的推薦の人気バイアスの分析:暗記の観点から / JSAI2025
upura
0
260
Semantic Shift Stability: 学習コーパス内の単語の意味変化を用いた事前学習済みモデルの時系列性能劣化の監査
upura
0
70
日本語ニュース記事要約支援に向けたドメイン特化事前学習済みモデルの構築と活用 / t5-news-summarization
upura
0
76
Web からのデータ収集と探究事例の紹介 / no94_jsai_seminar
upura
0
350
Other Decks in Technology
See All in Technology
未経験者・初心者に贈る!40分でわかるAndroidアプリ開発の今と大事なポイント
operando
5
480
ガチな登山用デバイスからこんにちは
halka
1
240
Evolución del razonamiento matemático de GPT-4.1 a GPT-5 - Data Aventura Summit 2025 & VSCode DevDays
lauchacarro
0
190
Terraformで構築する セルフサービス型データプラットフォーム / terraform-self-service-data-platform
pei0804
1
170
Obsidian応用活用術
onikun94
2
490
Android Audio: Beyond Winning On It
atsushieno
0
110
[ JAWS-UG 東京 CommunityBuilders Night #2 ]SlackとAmazon Q Developerで 運用効率化を模索する
sh_fk2
3
400
「全員プロダクトマネージャー」を実現する、Cursorによる仕様検討の自動運転
applism118
21
10k
サラリーマンの小遣いで作るtoCサービス - Cloudflare Workersでスケールする開発戦略
shinaps
2
440
データアナリストからアナリティクスエンジニアになった話
hiyokko_data
2
440
Agile PBL at New Grads Trainings
kawaguti
PRO
1
420
【実演版】カンファレンス登壇者・スタッフにこそ知ってほしいマイクの使い方 / 大吉祥寺.pm 2025
arthur1
1
830
Featured
See All Featured
Six Lessons from altMBA
skipperchong
28
4k
Agile that works and the tools we love
rasmusluckow
330
21k
Producing Creativity
orderedlist
PRO
347
40k
YesSQL, Process and Tooling at Scale
rocio
173
14k
Music & Morning Musume
bryan
46
6.8k
How GitHub (no longer) Works
holman
315
140k
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
18
1.1k
Embracing the Ebb and Flow
colly
87
4.8k
KATA
mclloyd
32
14k
Java REST API Framework Comparison - PWX 2021
mraible
33
8.8k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
51
5.6k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
PRO
188
55k
Transcript
ٕज़ྗͰੈքͱઓ͏ ػցֶशίϯϖςΟγϣϯ ʮ,BHHMFʯͷັྗ V !VQVSB ݄ "JDIJษڧձ
ͬͨ͜ͱ͋Δ 2
ฉ͍ͨ͜ͱ͋Δ 3
ຊͷ • ਓೳ "* ͷதͷʮػցֶशʯͱʁ • ػցֶशͷதͷʮڭࢣ͋Γֶशʯͱʁ • ػցֶशίϯϖςΟγϣϯʮ,BHHMFʯͱʁ
ࣗݾհʛV • ͷࣄۀձࣾͰσʔλαΠΤϯςΟετ • ,BHHMF.BTUFS • ࠷ߴϥϯΫҐɺҐೖܦݧ͋Γ • Ѫݝग़
• ౦ւߴߍˠ౦ژେֶˠݱ৬ • ࡢ൩౦ژͰొஃˠࠓேʹ໊ݹʹҠಈ
ࣗݾհʛV
ຊͷ • ਓೳ "* ͷதͷʮػցֶशʯͱʁ • ػցֶशͷதͷʮڭࢣ͋Γֶशʯͱʁ • ػցֶशίϯϖςΟγϣϯʮ,BHHMFʯͱʁ
ਓೳ "* • େ͖͘ྲྀʢ͜ͷྨࣗମʹ͕ٞ͋Δʣ ਓؒͷೳͦͷͷΛͭػցΛ࡞Ζ͏ͱ͢Δཱ ਓ͕ؒೳΛͬͯ͢Δ͜ͱΛػցʹͤ͞Α͏ͱ͢ Δཱ
• ࣮ࡍͷݚڀ΄ͱΜͲޙऀͷཱʢͳͷʹ͔ͬͯ Β͔ͣલऀͷҙຯͰ૽ཱ͗ͯΔք۾͕͋Δʣ ਓೳֶձਓೳͬͯԿʁ IUUQTXXXBJHBLLBJPSKQXIBUTBJ"*XIBUTIUNM
ػցֶश • ίϯϐϡʔλʹώτͷΑ͏ͳֶशೳྗΛ֫ಘ ͤ͞ΔͨΊͷٕज़ͷ૯শ • ਓೳ ∋ ػցֶश •
࠷ۙͷਓೳ ػցֶश ਿࢁক ʰΠϥετͰֶͿػցֶशʱ ߨஊࣾ
ຊͷ • ਓೳ "* ͷதͷʮػցֶशʯͱʁ • ػցֶशͷதͷʮڭࢣ͋Γֶशʯͱʁ • ػցֶशίϯϖςΟγϣϯʮ,BHHMFʯͱʁ
ػցֶशͷྨ • ֶशํ๏ʹґͬͯେ͖͘ྨ • ڭࢣ͋Γֶश • ڭࢣͳֶ͠श • ڧԽֶश
ਿࢁক ʰΠϥετͰֶͿػցֶशʱ ߨஊࣾ
ڭࢣ͋Γֶश • ίϯϐϡʔλʹͱ͑ͷରΛ͍͔ͭ͘ ڭ͑Δ͜ͱʹΑΓɼڭΘ͍ͬͯͳ͍ʹ ਖ਼͘͠ճͰ͖Δ൚ԽೳྗΛίϯϐϡʔ λʹ֫ಘͤ͞Δ ਿࢁক ʰΠϥετͰֶͿػցֶशʱ ߨஊࣾ
ڭࢣ͋Γֶशͷ۩ମྫ • खॻ͖จࣈೝࣝɼԻೝࣝɼը૾ೝࣝɼ໎ ϝʔϧͷࣗಈྨͳͲ
ֶशͷΞϧΰϦζϜ • ͍Ζ͍ΖͳΞϧΰϦζϜ͕։ൃ͞Ε͍ͯΔ • ͦͷҰ͕ͭɺσΟʔϓϥʔχϯά
࡞ͬͯΈͨʢσϞʣ • ʮ໊ݹ౦ژʯͷը૾ྨΞϓϦ • ωοτͰऩूͨ͠ը૾ͦΕͧΕຕ • 7((ʢσΟʔϓϥʔχϯάʣΛར༻ IUUQTXXXNEQJDPNIUN
࡞ͬͯΈͨʢσϞʣ IUUQTVQVSBIBUFOBCMPHDPN FOUSZ
ڭࢣͳֶ͠श • ͑ͷ͔͍ͬͯͳ͍σʔλͷू߹͔Βɺ ༗ӹͳࣝΛ֫ಘ͠Α͏ͱ͢Δ • ੈͷதʹਖ਼ղϥϕϧͷͳ͍σʔλͷํ͕ ѹతʹଟ͍ • ۩ମྫɿΫϥελϦϯάҟৗݕ
ਿࢁক ʰΠϥετͰֶͿػցֶशʱ ߨஊࣾ
ڧԽֶश • ڭࢣ͋Γֶशͱಉ͘͡൚ԽੑೳΛίϯϐϡʔ λʹ֫ಘͤ͞Δ͜ͱ͕ඪ • ͑Λڭ͑ΔΘΓʹɼ༧ଌͨ͑͠ͷ ྑ͞ΛධՁ • ධՁ͕࠷ߴ·ΔΑ͏ʹֶश͢Δ
ਿࢁক ʰΠϥετͰֶͿػցֶशʱ ߨஊࣾ
ڧԽֶशͷ۩ମྫ • ϩϘοτͷࣗಈ੍ޚɼίϯϐϡʔλήʔϜͳͲ • ໌֬ʹਖ਼ղσʔλ͕༩͑ͮΒ͍߹ʹ༻͍ΒΕΔ • ྫɿғޟͰʮͱ͋Δ൫໘ͰԿΛଧͭͷ͕ਖ਼ղʯ͔ ݴ͍Δͷ͍͠ ˠͱ͋ΔखΛଧͬͨΒউͬͨෛ͚ͨͱ͍͏ධՁ
Λͱʹֶश͍ͤͯ͘͜͞ͱͰ͖ͦ͏
ຊͷ • ਓೳ "* ͷதͷʮػցֶशʯͱʁ • ػցֶशͷதͷʮڭࢣ͋Γֶशʯͱʁ • ػցֶशίϯϖςΟγϣϯʮ,BHHMFʯͱʁ
,BHHMFͱ • ओʹڭࢣ͋Γֶश͕ରͷػցֶशϞσϧͷ ੑೳΛڝ͏ίϯϖςΟγϣϯ • (PPHMFࡿԼͷ,BHHMF͕ओ࠵ • ੈքதͷσʔλαΠΤϯςΟετ͕ू͏
(PPHMFτϨϯυ • ۙɺຊͰਓؾ͕ߴ·͍ͬͯΔ
,BHHMFͱ IUUQTXXXTMJEFTIBSFOFU)BSBEB,FJEFWTVNJTVNNFS
,BHHMFϥϯΩϯά IUUQTXXXLBHHMFDPNTJTIJIBSB • ֤ίϯϖͷ্Ґ ˠۚɿ ۜɿ ಔɿ • ۚݸۜݸҎ্
ˠ,BHHMF .BTUFS
,FSOFM%JTDVTTJPO • ,FSOFMʢ࣮ͷެ։ɺࢲ͜Μͳ࣮ͩʂʣ • %JTDVTTJPOʢ͜͏ΔͱείΞ্͕͕Δʂʣ • ੈքதͷࢀՃऀ͕࢛࣌த͍ٞͯ͠Δ • ˞ίϯϖͷॱҐ͚ͩͰͳ͘ɺ,FSOFM
%JTDVTTJPOͰͦΕͧΕϙΠϯτ͕͘
1FU'JOEFSίϯϖ
1FU'JOEFSίϯϖ IUUQTXXXLBHHMFDPNDQFUGJOEFSBEPQUJPOQSFEJDUJPO • 1FU'JOEFSNZ"EPQUJPO1SFEJDUJPO • ݄ʙ݄ʹ։࠵ • ʮػցֶशΛ༻͍ͯɺϚϨʔγΞͷϖοτ γϣοϓͰͷݘɾೣ͕Ҿ͖औΒΕΔૣ͞Λ
༧ଌ͢Δʯͱ͍͏͓
ར༻Ͱ͖Δσʔλ • ϖοτͷը૾ܗࣜσʔλ • આ໌จϖοτͷ໊લͳͲͷςΩετܗࣜσʔλ • ɾମॏɾଐੑͳͲͷςʔϒϧܗࣜσʔλ • ඞཁʹԠͯ͡֎෦σʔλར༻Մೳ
ྨ • ݘɾೣ͕Ҿ͖औΒΕΔ͞ • ϦετΞοϓͷʢʣ • ϦετΞοϓͷʙ
• ϦετΞοϓͷʙ • ϦετΞοϓͷʙ • Ҿ͖औΒΕͳ͍
.PEFM1JQFMJOF IUUQTXXXLBHHMFDPNDQFUGJOEFSBEPQUJPOQSFEJDUJPOEJTDVTTJPO
,BHHMFཱ͕ͭ ͱʹ͔ࣗ͘ͰखΛಈ͔ͤΔΑ͏ʹͳΔ ࣗࣗͷ٬؍తࢦඪͷҰͭʹ ࣾ֎ͷਓ͕૿͑Δ
ࣗͰखΛಈ͔͢ • είΞΛ্͛Δʹʮ%PFWFSZUIJOHʯ • ػցֶशۀͰඞͣ͠Θͳ͍͕ ಛྔΛ࡞Δ෦ʢσʔλͷՄࢹԽɾܗɾूܭ ͳͲʣɺ௨ৗͷۀʹਂؔ͘ΘΔ • ,BHHMFͷίʔυΛίϐϖ͢ΔͷͰࣄ͕͘ͳΔ
• σʔλʹର͢Δצॴʹͭ͘ʢ"*࠷ڧͰͳ͍ʣ
٬؍తࢦඪ • ࣾ֎ͷਓ͔Βʮ͜͏͍͏ͷ͕͖ͳͭʯ ͱೝͯ͠Β͑Δʢָͦ͠͏ͳ͕͋Δͱ ༠ͬͯΒ͑Δ͜ͱʣ • ࣾ֎ͷਓͱൺֱͯࣗ͘͠ͷ࣮ྗ͕͔Δ ͷͰɺ͞ΒͳΔษֶͷϞνϕʔγϣϯʹ
ࣾ֎ͷਓ • LBHHMFSKBTMBDLʢਓҎ্ʣ ˠσʔλੳʹؔ͢Δݟͷڞ༗ • ,BHHMF5PLZP.FFUVQ ˠ Ͱొஃ
• ͦͷଞɺTMBDLUXJUUFSͳͲͰࠃࡍަྲྀ
8JOOFS`T$BMM
ຊͰ,BHHMFºاۀ • ࣾ,BHHMF੍ʢ%F/"ʣ ˠ࠾༻ɾϒϥϯυઓུͷҰͰ͋Δ • ,BHHMFͰͷίϯϖ։࠵ʢϦΫϧʔτɺϝϧΧϦʣ ˠϒϥϯυઓུɺ༏উϞσϧͷ׆༻ • ,BHHMFҎ֎ͷίϯϖʢ4JHOBUFɺΦϯαΠτʣ
ˠ࠾༻ɾϒϥϯυઓུɺ༏উϞσϧͷ׆༻
%F/"ͷ,BHHMF੍ IUUQTEFOBBJLBHHMF
ຊاۀͷ։࠵࣮ ϦΫϧʔτ • Ϩετϥϯͷདྷऀ༧ଌ IUUQTXXXLBHHMFDPNDSFDSVJUSFTUBVSBOUWJTJUPSGPSFDBTUJOH ϝϧΧϦ • ग़Ձ֨ͷਪఆ IUUQTXXXLBHHMFDPNDNFSDBSJQSJDFTVHHFTUJPODIBMMFOHF
ϝϧΧϦͷࣄྫ IUUQTUFDINFSDBSJDPNFOUSZ
։࠵අ༻ɿສԁʁ IUUQTXXXLBHHMFDPNTUBUJDTMJEFTNFFULBHHMFQEG
ϗετ͚ϦϯΫू • IUUQTXXXLBHHMFDPNTUBUJDTMJEFT NFFULBHHMFQEG • IUUQTXXXLBHHMFDPNIPTUJOH JORVJSZ • IUUQTXXXLBHHMFDPNIPTUCVTJOFTT
4JHOBUF • ຊ൛ͷ,BHHMFʁ IUUQTTJHOBUFKQ
ΦϯαΠτ • ΠϕϯτܗࣜͰձʹࢀՃऀΛूΊΔܗࣜ • ύɾϦʔάɺ"CFNB57ɺ%F/" ͳͲଟ IUUQTEBUBTIJQKQQMN
·ͱΊ • ਓೳ "* ͷதͷʮػցֶशʯͱʁ • ػցֶशͷதͷʮڭࢣ͋Γֶशʯͱʁ • ػցֶशίϯϖςΟγϣϯʮ,BHHMFʯͱʁ
,BHHMFͬͯΈ͍ͨਓ