Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
技術力で世界と戦う機械学習コンペティション「Kaggle」の魅力 / Attractiven...
Search
Shotaro Ishihara
September 07, 2019
Technology
3k
3
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
技術力で世界と戦う 機械学習コンペティション「Kaggle」の魅力 / Attractiveness of Kaggle
AIchi勉強会での登壇資料
https://connpass.com/event/134720/
Shotaro Ishihara
September 07, 2019
More Decks by Shotaro Ishihara
See All by Shotaro Ishihara
大規模言語モデルは誰を覚えているか / Who Do Large Language Models Memorize?
upura
0
95
[ACL 2026 Demo] Fast-MIA: Efficient and Scalable Membership Inference for LLMs
upura
0
89
Fast-MIA: Efficient and Scalable Membership Inference for LLMs
upura
0
57
JAPAN AI CUP Prediction Tutorial
upura
2
1.3k
情報技術の社会実装に向けた応用と課題:ニュースメディアの事例から / appmech-jsce 2025
upura
0
420
日本語新聞記事を用いた大規模言語モデルの暗記定量化 / LLMC2025
upura
0
770
Quantifying Memorization in Continual Pre-training with Japanese General or Industry-Specific Corpora
upura
1
130
JOAI2025講評 / joai2025-review
upura
0
1.7k
AI エージェントを活用した研究再現性の自動定量評価 / scisci2025
upura
1
280
Other Decks in Technology
See All in Technology
13年運用タイトルのサーバーサイドが辿り着いた現在地 ― モンスターストライクにおける技術・組織・AI活用から得た知見
mixi_engineers
PRO
1
430
QAと開発の両側から進める AI活用 -QAプロセスAI支援ツールキットと Inner Loop / Outer Loopの取り組み-
legalontechnologies
PRO
2
420
[MIRU26] To What Extent Does MLLM-as-a-Judge Exhibit Cross-Model Preference Bias?
keio_smilab
PRO
0
200
実践が先生だった— 新卒サーバーエンジニア1年目のリアル
mixi_engineers
PRO
0
240
脱Jenkins、インターン生が挑んだCIツールGitHubActions移行
mixi_engineers
PRO
1
320
名古屋の市バスGTFS-JPデータ×スガキヤ 最寄りバス停検索をAmazon ElastiCache Serverless for Valkeyで最適化する
usanchuu
1
190
セキュリティ研修【MIXI 26新卒技術研修】
mixi_engineers
PRO
33
28k
ウォーターフォール開発案件のPMとしてAI活用を模索している話
hatahata021
3
280
Data Hubグループ 紹介資料
sansan33
PRO
0
3.1k
第3回しろおびセキュリティスポンサーセッション
log0417
0
120
SmartHR Engineering Team Deck
smarthr
0
170
PLaMo 3.0 Primeの事後学習
pfn
PRO
0
260
Featured
See All Featured
Chrome DevTools: State of the Union 2024 - Debugging React & Beyond
addyosmani
10
1.3k
How to make the Groovebox
asonas
2
2.3k
Mobile First: as difficult as doing things right
swwweet
225
10k
Effective software design: The role of men in debugging patriarchy in IT @ Voxxed Days AMS
baasie
0
460
Navigating Weather and Climate Data
rabernat
0
440
We Have a Design System, Now What?
morganepeng
55
8.2k
From π to Pie charts
rasagy
0
240
Dealing with People You Can't Stand - Big Design 2015
cassininazir
367
27k
Paper Plane
katiecoart
PRO
2
52k
Redefining SEO in the New Era of Traffic Generation
szymonslowik
1
370
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
194
17k
The AI Search Optimization Roadmap by Aleyda Solis
aleyda
1
6k
Transcript
ٕज़ྗͰੈքͱઓ͏ ػցֶशίϯϖςΟγϣϯ ʮ,BHHMFʯͷັྗ V !VQVSB ݄ "JDIJษڧձ
ͬͨ͜ͱ͋Δ 2
ฉ͍ͨ͜ͱ͋Δ 3
ຊͷ • ਓೳ "* ͷதͷʮػցֶशʯͱʁ • ػցֶशͷதͷʮڭࢣ͋Γֶशʯͱʁ • ػցֶशίϯϖςΟγϣϯʮ,BHHMFʯͱʁ
ࣗݾհʛV • ͷࣄۀձࣾͰσʔλαΠΤϯςΟετ • ,BHHMF.BTUFS • ࠷ߴϥϯΫҐɺҐೖܦݧ͋Γ • Ѫݝग़
• ౦ւߴߍˠ౦ژେֶˠݱ৬ • ࡢ൩౦ژͰొஃˠࠓேʹ໊ݹʹҠಈ
ࣗݾհʛV
ຊͷ • ਓೳ "* ͷதͷʮػցֶशʯͱʁ • ػցֶशͷதͷʮڭࢣ͋Γֶशʯͱʁ • ػցֶशίϯϖςΟγϣϯʮ,BHHMFʯͱʁ
ਓೳ "* • େ͖͘ྲྀʢ͜ͷྨࣗମʹ͕ٞ͋Δʣ ਓؒͷೳͦͷͷΛͭػցΛ࡞Ζ͏ͱ͢Δཱ ਓ͕ؒೳΛͬͯ͢Δ͜ͱΛػցʹͤ͞Α͏ͱ͢ Δཱ
• ࣮ࡍͷݚڀ΄ͱΜͲޙऀͷཱʢͳͷʹ͔ͬͯ Β͔ͣલऀͷҙຯͰ૽ཱ͗ͯΔք۾͕͋Δʣ ਓೳֶձਓೳͬͯԿʁ IUUQTXXXBJHBLLBJPSKQXIBUTBJ"*XIBUTIUNM
ػցֶश • ίϯϐϡʔλʹώτͷΑ͏ͳֶशೳྗΛ֫ಘ ͤ͞ΔͨΊͷٕज़ͷ૯শ • ਓೳ ∋ ػցֶश •
࠷ۙͷਓೳ ػցֶश ਿࢁক ʰΠϥετͰֶͿػցֶशʱ ߨஊࣾ
ຊͷ • ਓೳ "* ͷதͷʮػցֶशʯͱʁ • ػցֶशͷதͷʮڭࢣ͋Γֶशʯͱʁ • ػցֶशίϯϖςΟγϣϯʮ,BHHMFʯͱʁ
ػցֶशͷྨ • ֶशํ๏ʹґͬͯେ͖͘ྨ • ڭࢣ͋Γֶश • ڭࢣͳֶ͠श • ڧԽֶश
ਿࢁক ʰΠϥετͰֶͿػցֶशʱ ߨஊࣾ
ڭࢣ͋Γֶश • ίϯϐϡʔλʹͱ͑ͷରΛ͍͔ͭ͘ ڭ͑Δ͜ͱʹΑΓɼڭΘ͍ͬͯͳ͍ʹ ਖ਼͘͠ճͰ͖Δ൚ԽೳྗΛίϯϐϡʔ λʹ֫ಘͤ͞Δ ਿࢁক ʰΠϥετͰֶͿػցֶशʱ ߨஊࣾ
ڭࢣ͋Γֶशͷ۩ମྫ • खॻ͖จࣈೝࣝɼԻೝࣝɼը૾ೝࣝɼ໎ ϝʔϧͷࣗಈྨͳͲ
ֶशͷΞϧΰϦζϜ • ͍Ζ͍ΖͳΞϧΰϦζϜ͕։ൃ͞Ε͍ͯΔ • ͦͷҰ͕ͭɺσΟʔϓϥʔχϯά
࡞ͬͯΈͨʢσϞʣ • ʮ໊ݹ౦ژʯͷը૾ྨΞϓϦ • ωοτͰऩूͨ͠ը૾ͦΕͧΕຕ • 7((ʢσΟʔϓϥʔχϯάʣΛར༻ IUUQTXXXNEQJDPNIUN
࡞ͬͯΈͨʢσϞʣ IUUQTVQVSBIBUFOBCMPHDPN FOUSZ
ڭࢣͳֶ͠श • ͑ͷ͔͍ͬͯͳ͍σʔλͷू߹͔Βɺ ༗ӹͳࣝΛ֫ಘ͠Α͏ͱ͢Δ • ੈͷதʹਖ਼ղϥϕϧͷͳ͍σʔλͷํ͕ ѹతʹଟ͍ • ۩ମྫɿΫϥελϦϯάҟৗݕ
ਿࢁক ʰΠϥετͰֶͿػցֶशʱ ߨஊࣾ
ڧԽֶश • ڭࢣ͋Γֶशͱಉ͘͡൚ԽੑೳΛίϯϐϡʔ λʹ֫ಘͤ͞Δ͜ͱ͕ඪ • ͑Λڭ͑ΔΘΓʹɼ༧ଌͨ͑͠ͷ ྑ͞ΛධՁ • ධՁ͕࠷ߴ·ΔΑ͏ʹֶश͢Δ
ਿࢁক ʰΠϥετͰֶͿػցֶशʱ ߨஊࣾ
ڧԽֶशͷ۩ମྫ • ϩϘοτͷࣗಈ੍ޚɼίϯϐϡʔλήʔϜͳͲ • ໌֬ʹਖ਼ղσʔλ͕༩͑ͮΒ͍߹ʹ༻͍ΒΕΔ • ྫɿғޟͰʮͱ͋Δ൫໘ͰԿΛଧͭͷ͕ਖ਼ղʯ͔ ݴ͍Δͷ͍͠ ˠͱ͋ΔखΛଧͬͨΒউͬͨෛ͚ͨͱ͍͏ධՁ
Λͱʹֶश͍ͤͯ͘͜͞ͱͰ͖ͦ͏
ຊͷ • ਓೳ "* ͷதͷʮػցֶशʯͱʁ • ػցֶशͷதͷʮڭࢣ͋Γֶशʯͱʁ • ػցֶशίϯϖςΟγϣϯʮ,BHHMFʯͱʁ
,BHHMFͱ • ओʹڭࢣ͋Γֶश͕ରͷػցֶशϞσϧͷ ੑೳΛڝ͏ίϯϖςΟγϣϯ • (PPHMFࡿԼͷ,BHHMF͕ओ࠵ • ੈքதͷσʔλαΠΤϯςΟετ͕ू͏
(PPHMFτϨϯυ • ۙɺຊͰਓؾ͕ߴ·͍ͬͯΔ
,BHHMFͱ IUUQTXXXTMJEFTIBSFOFU)BSBEB,FJEFWTVNJTVNNFS
,BHHMFϥϯΩϯά IUUQTXXXLBHHMFDPNTJTIJIBSB • ֤ίϯϖͷ্Ґ ˠۚɿ ۜɿ ಔɿ • ۚݸۜݸҎ্
ˠ,BHHMF .BTUFS
,FSOFM%JTDVTTJPO • ,FSOFMʢ࣮ͷެ։ɺࢲ͜Μͳ࣮ͩʂʣ • %JTDVTTJPOʢ͜͏ΔͱείΞ্͕͕Δʂʣ • ੈքதͷࢀՃऀ͕࢛࣌த͍ٞͯ͠Δ • ˞ίϯϖͷॱҐ͚ͩͰͳ͘ɺ,FSOFM
%JTDVTTJPOͰͦΕͧΕϙΠϯτ͕͘
1FU'JOEFSίϯϖ
1FU'JOEFSίϯϖ IUUQTXXXLBHHMFDPNDQFUGJOEFSBEPQUJPOQSFEJDUJPO • 1FU'JOEFSNZ"EPQUJPO1SFEJDUJPO • ݄ʙ݄ʹ։࠵ • ʮػցֶशΛ༻͍ͯɺϚϨʔγΞͷϖοτ γϣοϓͰͷݘɾೣ͕Ҿ͖औΒΕΔૣ͞Λ
༧ଌ͢Δʯͱ͍͏͓
ར༻Ͱ͖Δσʔλ • ϖοτͷը૾ܗࣜσʔλ • આ໌จϖοτͷ໊લͳͲͷςΩετܗࣜσʔλ • ɾମॏɾଐੑͳͲͷςʔϒϧܗࣜσʔλ • ඞཁʹԠͯ͡֎෦σʔλར༻Մೳ
ྨ • ݘɾೣ͕Ҿ͖औΒΕΔ͞ • ϦετΞοϓͷʢʣ • ϦετΞοϓͷʙ
• ϦετΞοϓͷʙ • ϦετΞοϓͷʙ • Ҿ͖औΒΕͳ͍
.PEFM1JQFMJOF IUUQTXXXLBHHMFDPNDQFUGJOEFSBEPQUJPOQSFEJDUJPOEJTDVTTJPO
,BHHMFཱ͕ͭ ͱʹ͔ࣗ͘ͰखΛಈ͔ͤΔΑ͏ʹͳΔ ࣗࣗͷ٬؍తࢦඪͷҰͭʹ ࣾ֎ͷਓ͕૿͑Δ
ࣗͰखΛಈ͔͢ • είΞΛ্͛Δʹʮ%PFWFSZUIJOHʯ • ػցֶशۀͰඞͣ͠Θͳ͍͕ ಛྔΛ࡞Δ෦ʢσʔλͷՄࢹԽɾܗɾूܭ ͳͲʣɺ௨ৗͷۀʹਂؔ͘ΘΔ • ,BHHMFͷίʔυΛίϐϖ͢ΔͷͰࣄ͕͘ͳΔ
• σʔλʹର͢Δצॴʹͭ͘ʢ"*࠷ڧͰͳ͍ʣ
٬؍తࢦඪ • ࣾ֎ͷਓ͔Βʮ͜͏͍͏ͷ͕͖ͳͭʯ ͱೝͯ͠Β͑Δʢָͦ͠͏ͳ͕͋Δͱ ༠ͬͯΒ͑Δ͜ͱʣ • ࣾ֎ͷਓͱൺֱͯࣗ͘͠ͷ࣮ྗ͕͔Δ ͷͰɺ͞ΒͳΔษֶͷϞνϕʔγϣϯʹ
ࣾ֎ͷਓ • LBHHMFSKBTMBDLʢਓҎ্ʣ ˠσʔλੳʹؔ͢Δݟͷڞ༗ • ,BHHMF5PLZP.FFUVQ ˠ Ͱొஃ
• ͦͷଞɺTMBDLUXJUUFSͳͲͰࠃࡍަྲྀ
8JOOFS`T$BMM
ຊͰ,BHHMFºاۀ • ࣾ,BHHMF੍ʢ%F/"ʣ ˠ࠾༻ɾϒϥϯυઓུͷҰͰ͋Δ • ,BHHMFͰͷίϯϖ։࠵ʢϦΫϧʔτɺϝϧΧϦʣ ˠϒϥϯυઓུɺ༏উϞσϧͷ׆༻ • ,BHHMFҎ֎ͷίϯϖʢ4JHOBUFɺΦϯαΠτʣ
ˠ࠾༻ɾϒϥϯυઓུɺ༏উϞσϧͷ׆༻
%F/"ͷ,BHHMF੍ IUUQTEFOBBJLBHHMF
ຊاۀͷ։࠵࣮ ϦΫϧʔτ • Ϩετϥϯͷདྷऀ༧ଌ IUUQTXXXLBHHMFDPNDSFDSVJUSFTUBVSBOUWJTJUPSGPSFDBTUJOH ϝϧΧϦ • ग़Ձ֨ͷਪఆ IUUQTXXXLBHHMFDPNDNFSDBSJQSJDFTVHHFTUJPODIBMMFOHF
ϝϧΧϦͷࣄྫ IUUQTUFDINFSDBSJDPNFOUSZ
։࠵අ༻ɿສԁʁ IUUQTXXXLBHHMFDPNTUBUJDTMJEFTNFFULBHHMFQEG
ϗετ͚ϦϯΫू • IUUQTXXXLBHHMFDPNTUBUJDTMJEFT NFFULBHHMFQEG • IUUQTXXXLBHHMFDPNIPTUJOH JORVJSZ • IUUQTXXXLBHHMFDPNIPTUCVTJOFTT
4JHOBUF • ຊ൛ͷ,BHHMFʁ IUUQTTJHOBUFKQ
ΦϯαΠτ • ΠϕϯτܗࣜͰձʹࢀՃऀΛूΊΔܗࣜ • ύɾϦʔάɺ"CFNB57ɺ%F/" ͳͲଟ IUUQTEBUBTIJQKQQMN
·ͱΊ • ਓೳ "* ͷதͷʮػցֶशʯͱʁ • ػցֶशͷதͷʮڭࢣ͋Γֶशʯͱʁ • ػցֶशίϯϖςΟγϣϯʮ,BHHMFʯͱʁ
,BHHMFͬͯΈ͍ͨਓ