Wakuwaku!!!!!! 原來自然語言可以這樣玩

LINE Developers Taiwan

July 04, 2023

5.3k

Wakuwaku!!!!!! 原來自然語言可以這樣玩

活動：LINE Developers Meetup 開發者小聚 #18 - TECH FRESH 畢業展
活動頁面：https://linegroup.kktix.cc/events/20230627-tech-fresh-gratudation
講者：Danny Lo

LINE Developers Taiwan
PRO

July 04, 2023

Tweet

More Decks by LINE Developers Taiwan

See All by LINE Developers Taiwan

就讓AI幫你帶LINE好運

line_developers_tw

1

31

沒想過的前端錯誤處理可能比你有做的還多

line_developers_tw

0

51k

LINE 台灣實習計畫 2024 - TECH FRESH 介紹

line_developers_tw

0

510

LINE 台灣實習計畫 - 相關福利與面試流程

line_developers_tw

0

520

Navigating My Internship: A 5W1H Perspective

line_developers_tw

0

22

1001 號到 333 號

line_developers_tw

0

15

關於我連線三年半的故事

line_developers_tw

0

870

LINE 電商部門實習分享

line_developers_tw

0

46

大學六年，我差點忘了畢業

line_developers_tw

0

560

Other Decks in Technology

See All in Technology

開発パフォーマンスを最大化するための開発体制

7

1.2k

Autonomous Database Cloud 技術詳細 / adb-s_technical_detail_jp

oracle4engineer

15

35k

TechFeed Experts Night#27 〜フロントエンドフレームワーク最前線 (Svelte)

2

600

社内アプリで Cloudflare D1をプロダクト運用してみた体験談(Tokyo)

0

130

障害対応をちょっとずつよくしていくための演習の作りかた

1

1.8k

LayerXにおけるLLMプロダクト開発の今までとこれから

4

780

Max out Local LLM in Challenging Environments

2

170

認知症フレンドリーテックとスタックチャン

0

310

Azureの基本的な権限管理の勉強会

1

2.1k

MLOpsの「壁」を乗り越える、LINEヤフーの Data Quality as Code

8

640

R3のコードから見る実践LINQ実装最適化・コンカレントプログラミング実例

3

3k

LLM開発・活用の舞台裏@2024.04.25

3

1.3k

Featured

See All Featured

ピンチをチャンスに：未来をつくるプロダクトロードマップ #pmconf2020

79

43k

CSS Pre-Processors: Stylus, Less & Sass

352

28k

Facilitating Awesome Meetings

43

5.6k

Building a Modern Day  E-commerce SEO Strategy

22

6.4k

Building Adaptive Systems

32

1.9k

Java REST API Framework Comparison - PWX 2021

18

6.9k

457

140k

Debugging Ruby Performance

70

11k

Making Projects Easy

109

5.5k

Building Effective Engineering Teams - LeadDev

32

1.9k

Intergalactic Javascript Robots from Outer Space

266

26k

Let's Do A Bunch of Simple Stuff to Make Websites Faster

501

140k

Transcript

Wakuwaku!!!!!! 原來⾃然語⾔可以這樣玩 Danny Lo 2023/06/09
Danny Lo Data Dev, TECH FRESH • NTU CSIE •
Research Assistant @MSLAB • LINE TECH FRESH @LINE Data Dev
Large Language Model …? ※ Source: generated by Midjourney 給語言模型大量資料，期待他能展現超越小型語言
模型的文本理解和生成能力
準備⼯作 Model Data Device
建立 NLP pipeline Data preparation Model training Model Evaluation Model
Validation Model Analysis
事情似乎沒有那麼容易 • 資料量不足，特別是中文的文本和訓練集 • Error: CUDA out of memory. 👊
👊 👊 • 訓練時間過長 • 模型表現不如預期 ※ Source: generated by Midjourney
解決⽅法
AS-IS 專案切換效率低落 ※ Source: generated by Midjourney
TO-BE Context Switch ※ Source: generated by Midjourney
THANK YOU