Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
技術アウトプットを支える技術 / Tips to generate technical out...
Search
Shotaro Ishihara
March 04, 2019
Technology
14
22k
技術アウトプットを支える技術 / Tips to generate technical outputs
2019年3月4日開催「白金鉱業 Meetup Vol.6」(
https://brainpad-meetup.connpass.com/event/119149/
) での発表資料
Shotaro Ishihara
March 04, 2019
Tweet
Share
More Decks by Shotaro Ishihara
See All by Shotaro Ishihara
日本語新聞記事を用いた大規模言語モデルの暗記定量化 / LLMC2025
upura
0
150
Quantifying Memorization in Continual Pre-training with Japanese General or Industry-Specific Corpora
upura
1
35
JOAI2025講評 / joai2025-review
upura
0
400
AI エージェントを活用した研究再現性の自動定量評価 / scisci2025
upura
1
140
JSAI2025 企画セッション「人工知能とコンペティション」/ jsai2025-competition
upura
0
43
生成的推薦の人気バイアスの分析:暗記の観点から / JSAI2025
upura
0
250
Semantic Shift Stability: 学習コーパス内の単語の意味変化を用いた事前学習済みモデルの時系列性能劣化の監査
upura
0
69
日本語ニュース記事要約支援に向けたドメイン特化事前学習済みモデルの構築と活用 / t5-news-summarization
upura
0
74
Web からのデータ収集と探究事例の紹介 / no94_jsai_seminar
upura
0
340
Other Decks in Technology
See All in Technology
Browser
recruitengineers
PRO
6
1.8k
エキサイトブログの トップページを 段階的にリプレイスする
zsp2088dev
0
130
ソフトウェア エンジニアとしての 姿勢と心構え
recruitengineers
PRO
22
11k
イオン店舗一覧ページのパフォーマンスチューニング事例 / Performance tuning example for AEON store list page
aeonpeople
2
370
異業種出身エンジニアが気づいた、転向して十数年経っても変わらない自分の武器とは
macnekoayu
0
230
トヨタ生産方式(TPS)入門
recruitengineers
PRO
5
1.3k
Understanding Go GC #coefl_go_jp
bengo4com
1
1.1k
実践アプリケーション設計 ②トランザクションスクリプトへの対応
recruitengineers
PRO
4
1.1k
【5分でわかる】セーフィー エンジニア向け会社紹介
safie_recruit
0
30k
実践アプリケーション設計 ③ドメイン駆動設計
recruitengineers
PRO
13
3.6k
実践データベース設計 ①データベース設計概論
recruitengineers
PRO
4
1.7k
つくって納得、つかって実感! 大規模言語モデルことはじめ
recruitengineers
PRO
30
11k
Featured
See All Featured
The Pragmatic Product Professional
lauravandoore
36
6.8k
Into the Great Unknown - MozCon
thekraken
40
2k
YesSQL, Process and Tooling at Scale
rocio
173
14k
Art, The Web, and Tiny UX
lynnandtonic
302
21k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
26
3k
Principles of Awesome APIs and How to Build Them.
keavy
126
17k
Typedesign – Prime Four
hannesfritz
42
2.8k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
9
790
Building Applications with DynamoDB
mza
96
6.6k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
PRO
185
54k
Templates, Plugins, & Blocks: Oh My! Creating the theme that thinks of everything
marktimemedia
31
2.5k
Large-scale JavaScript Application Architecture
addyosmani
512
110k
Transcript
None
ຊൃදʹ͍ͭͯ • ࢿྉશฤެ։͠·͢ • നۚ߭ۀ ࠙ձͰײΛ͚Δͱخ͍͠Ͱ͢
ࣗݾհ • ੴݪↅଠ V !VQVSB • ࣄۀձࣾͰσʔλΞφϦετˍΤϯδχΞ • ݄ೖࣾ •
,BHHMFͳͲͷσʔλੳίϯϖɺϒϩάͳͲͰ ༡ΜͰ͍·͢ • ಠʢͳͷͰ࣌ؒ͋Δʣ
ٕज़Ξτϓοτ ۙʣ • ٕज़ϒϩάࣥචʢؒຊʣ • ٕज़ॻయɺٕज़ॻయʢӶҙࣥචதʣ • ൃදʢຊ͕݅ʣ • ΠϕϯτӡӦʮ4QPSUT"OBMZTU.FFUVQʯ
• ػցֶशίϯϖʢ,BHHMF &YQFSU 4JHOBUFೖ Ծ ʣ • ڝٕϓϩάϥϛϯάʢ"U$PEFSʣ V ͷՌ IUUQTVQVSBIBUFOBCMPHDPNFOUSZ
ϒϩάͷߋ৽ස
ຊ͢͜ͱ ࣗͷٕज़ΞτϓοτͷܦҢ ͳͥΔ͔ Ͳ͏͖͔ͬͯͨ ԿΛಘ͔ͨ
ٕज़ΞτϓοτΛࢧ͑Δٕज़ ΤίγεςϜ ݸʑͷ5JQT
ىݯখֶߍߴֶʁ • ࣮Ո͕ಡച৽ฉͱத৽ฉΛߪಡ ಡച த
ʮ͑Δʯͬͯ໘ന͍ʂ ಡച த தυϥΰϯζ࿈ ໘શ෦ ৮ΕΔ͚ͩ
େֶ৽ฉͰهࣄࣥච • िץͰϖʔδͷ৽ฉΛൃߦʴిࢠ൛ ʢਖ਼͍·ͷഒ͔ͬͨ͠ɾɾɾʣ
ຊۀͱࣥචͷཱ྆ • ຊۀʢֶۀʣɺֶ෦Ͱใܥ • ߹ؒΛ๓ͬͯɺେֶ৽ฉͰ׆ಈ • هऀ ΧϝϥϚϯ • ߍӾ
൛ • ฤूʢࢴ ిࢠ൛ʣ • ࠂӦۀ Πϕϯτ։࠵ • ۀͷࣗಈԽʢੳهࣄ ަ௨අਫ਼ࢉ ͳͲʣ • ࣾΠϯϑϥʢ/"4 8J'J ͳͲʣ
ɺݸਓϒϩάൃ • ۈྺ͕͘ͳΔʹͭΕɺཧଆʹճΔ͜ͱ͕૿͑ ࠷લઢͰهࣄΛॻ͘ػձ͕ݮͬͨ • هऀ࣌ʹॻ͍ͨهࣄͷڹɺഔମͱͯ͠ͷධՁ • ୯७ʹهࣄΛॻ͘ͷ͕͖ • ͚ࣗͩͷྗͰɺ७ਮͳධՁΛݟͯΈ͍ͨ
࠷ॳ·ͬͨ͘ৼΔΘͣ ࠷ॳͷϒϩάهࣄ ԿΛॻ͜͏ʁ શવڹ͕ͳ͍
༡ٔԦ͚ͩॻ͍͍ͯͨ࣌ظ
༡ٔԦºੳʹڹ͋Γ • গͣͭ͠ɺखԠ͑Λ͔ͭΈ࢝ΊΔ ͖ͳ͜ͱΛ ಠࣗͷࢹͰ
ɺ,BHHMFΛ࢝ΊΔ • ʢࣗͷ͖ͳʣ,BHHMFͷهࣄΛॻ͍͍ͯͨΒɺ ,BHHMFਓؾͷ্ͱ૬·ͬͯڹ͕૿Ճ • ͯͳϒοΫϚʔΫͷਓؾΤϯτϦʹԿ͔ ʢҎ্͕݅ɺҎ্͕݅ʣ
ͯͳϒϩάͷಡऀͷਪҠ
ࣾձਓʹͳ͔ͬͯΒͷಈػ ֶੜ࣌ • ʮهࣄΛॻ͘ͷ͕͖ʯʮࣗͷ࣮ྗΛݟ͍ͨʯ ࣾձਓ࣌ • Ճ͑ͯʮࣗͷ࣮ྗΛݟ͍ͤͨʯͱ͍͏ಈػ • όϦόϦͷ*5اۀͰಇ͍͍ͯΔΘ͚Ͱͳ͍ •
ֶҐ͕͋ΔΘ͚Ͱͳ͍ʢम࢜՝ఔΛதୀʣ V V
ٕज़ΞτϓοτͰಘͨͷ • ࣗͷϙʔτϑΥϦΦ • ަ༑ؔͷ͕Γ • هԱͷ֎෦֦ு • ͞ΒͳΔΠϯϓοτΞτϓοτͷಈػ͚ͮ •
࣍ύʔτͰɺ͏গ͠ৄࡉʹݟ͍͖ͯ·͢
ຊ͢͜ͱ ࣗͷٕज़ΞτϓοτͷܦҢ ͳͥΔ͔ Ͳ͏͖͔ͬͯͨ ԿΛಘ͔ͨ
ٕज़ΞτϓοτΛࢧ͑Δٕज़ ΤίγεςϜ ݸʑͷ5JQT
ΤίγεςϜ • ཁૉ͕૬ޓ࡞༻͓ͯ͠Γɺಛޮༀͳ͍ Ξτϓοτ Πϯϓοτ ࣌ؒ Δؾ ڹ ΠϯϓοτͱΞτϓοτΛܨ͙
ΤίγεςϜ Ξτϓοτ Πϯϓοτ ࣌ؒ Δؾ ڹ ΠϯϓοτͱΞτϓοτΛܨ͙
࣌ؒΛͲ͏࡞Δ͔ • લఏɿ͑Δ࣌ؒਓͦΕͧΕ • ͦͷ࣌ؒͰՄೳͳݶΓޮతʹऔΓΈ͍ͨ • λεΫཧɺେֶ͔࣌ΒͣͬͱUPEPJTU
UPEPJTU • γϯϓϧͳ6*69
σόΠεؒ࿈ܞͰλεΫू
λεΫཧͷޮೳ • ͷલͷλεΫʹྗͰ͖Δ • ࢥ͍͖ͭͷࡉ͔͍λεΫొ͓͖ͯ͠ɺωλாʹ Ͱ͖Δ • ʮ͕࣌ؒͰ͖ͨΒ͍̋̋ͨ͠ʯΛ͖ͪΜͱר͖औΔ
ΤίγεςϜ Ξτϓοτ Πϯϓοτ ࣌ؒ Δؾ ڹ ΠϯϓοτͱΞτϓοτΛܨ͙
Πϯϓοτ ৗ࣌ • 5XJUUFS ճ͘Β͍ • :BIPPχϡʔε ܦ৽ฉ (PPHMF)PNF •
ͯͳϒοΫϚʔΫɺͯͳϒϩά • ٕज़ॻɺจ
5XJUUFSͷϒοΫϚʔΫ • εϚϗΞϓϦ NPCJMF൛ • IUUQTNPCJMFUXJUUFSDPN • ྲྀ͠ಡΈ͢ΔதͰؾʹͳͬͨ ߘΛશͯొ͠ɺಡΈऴ͑ ͨΒղআ
ΤίγεςϜ Ξτϓοτ Πϯϓοτ ࣌ؒ Δؾ ڹ ΠϯϓοτͱΞτϓοτΛܨ͙
ΠϯϓοτͱΞτϓοτ • λεΫཧͱΠϯϓοτ͕Ͱ͖ͨΒɺ ޙͲ͏Ξτϓοτʹܨ͛Δ͔ • ํੑʹґͬͯదͨ͠Γํ͕͋Δ • ΠϯϓοτˠΞτϓοτ • ΞτϓοτˠΠϯϓοτ
ΠϯϓοτˠΞτϓοτ • ΠϯϓοτۦಈͷΞτϓοτ • ྫɿٕज़ϒϩάͳͲ • ΞτϓοτͱɺΠϯϓοτͷநԽҰൠԽ • Πϯϓοτͷຊ࣭Ԡ༻ઌΛҙࣝ͢ΔΑ͏ʹ •
ۀͰऔΓΜͩ༰ɺՄೳͳൣғͰ ʢಛʹσʔλΞφϦετՌ͕ੈʹग़ͮ͠Β͍ʣ
ΞτϓοτˠΠϯϓοτ • ΞτϓοτۦಈͷΠϯϓοτ༗༻ • ྫɿػցֶशίϯϖɺॻ੶ࣥචͳͲక͕͋Δͷ • औΓ͋͑ͣΞτϓοτΛ࢝͠ΊͯɺΠϯϓοτ͕ Γͳ͍Λదٓิ͍ͬͯ͘ • ࣗΛ͍ࠐΊΔͷͰɺ৽ྖҬͷ߹ʹΦεεϝ
ΤίγεςϜ • ཁૉ͕૬ޓ࡞༻͓ͯ͠Γɺಛޮༀͳ͍ Ξτϓοτ Πϯϓοτ ࣌ؒ Δؾ ڹ ΠϯϓοτͱΞτϓοτΛܨ͙
࠷ޙʹɺΔؾ • ٕज़ΞτϓοτใΘΕΔͱݶΒͳ͍ ʢҎ্ɺ΄΅ಡऀ͕͍ͳ͔ͬͨʣ • ͘ଓ͚ͯΔͱɺใΘΕΔՄೳੑ͕ߴ·Δ ʢಛޮༀͳ͍ɺ5JQTͷशಘɺ࣌ͷྲྀΕʣ • શһʹೝΊΒΕΔͷແཧ ʢมͳҙݟ͕དྷΔ͜ͱ͋Δɺແཧͳ͍ൣғͰʣ
·ͱΊ ࣗͷٕज़ΞτϓοτͷܦҢ ٕज़ΞτϓοτΛࢧ͑Δٕज़ • օ͞·ࣗͷٕज़Ξτϓοτʹͨͬͯɺ গ͠ͰߩݙͰ͖Δ෦͕͋Εخ͍͠