Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
菸酒生在 LINE Taiwan 的後端雙刀流
Search
LINE Developers Taiwan
PRO
June 19, 2025
Technology
0
1.2k
菸酒生在 LINE Taiwan 的後端雙刀流
Speaker: Allen Chang
Event: LINE TECH FRESH 畢業分享會 2025
LINE Developers Taiwan
PRO
June 19, 2025
Tweet
Share
More Decks by LINE Developers Taiwan
See All by LINE Developers Taiwan
讓測試不再 BB! 從 BDD 到 CI/CD, 不靠人力也能 MVP
line_developers_tw
PRO
0
1.3k
DB 醬,嗨!哪泥嘎斯基?
line_developers_tw
PRO
0
1.3k
比起獨自升級 我更喜歡 DevOps 文化 <3
line_developers_tw
PRO
0
1.3k
工具人的一生: 開發很多 AI 工具讓我 慵懶過一生
line_developers_tw
PRO
0
1.2k
從四件事帶你見識見識 事件驅動架構設計 (EDA)
line_developers_tw
PRO
0
1.1k
TODAY 看世界(?) 是我們在看扣啦!
line_developers_tw
PRO
0
1.3k
你想成為什麼樣的開發者?
line_developers_tw
PRO
0
26
研究生的 LINER生活
line_developers_tw
PRO
0
28
#Rookie’s Adventure: A 0 to 1 Dev Journey
line_developers_tw
PRO
0
75
Other Decks in Technology
See All in Technology
品質と速度の両立:生成AI時代の品質保証アプローチ
odasho
1
350
2025-07-06 QGIS初級ハンズオン「はじめてのQGIS」
kou_kita
0
170
Glacierだからってコストあきらめてない? / JAWS Meet Glacier Cost
taishin
1
160
開発生産性を測る前にやるべきこと - 組織改善の実践 / Before Measuring Dev Productivity
kaonavi
9
4.4k
Core Audio tapを使ったリアルタイム音声処理のお話
yuta0306
0
190
MUITにおける開発プロセスモダナイズの取り組みと開発生産性可視化の取り組みについて / Modernize the Development Process and Visualize Development Productivity at MUIT
muit
1
16k
Sansanのデータプロダクトマネジメントのアプローチ
sansantech
PRO
0
160
敢えて生成AIを使わないマネジメント業務
kzkmaeda
2
440
AI専用のリンターを作る #yumemi_patch
bengo4com
5
4.3k
united airlines ™®️ USA Contact Numbers: Complete 2025 Support Guide
flyunitedhelp
1
320
関数型プログラミングで 「脳がバグる」を乗り越える
manabeai
1
190
タイミーのデータモデリング事例と今後のチャレンジ
ttccddtoki
6
2.4k
Featured
See All Featured
ReactJS: Keep Simple. Everything can be a component!
pedronauck
667
120k
How STYLIGHT went responsive
nonsquared
100
5.6k
The World Runs on Bad Software
bkeepers
PRO
69
11k
The Invisible Side of Design
smashingmag
301
51k
Connecting the Dots Between Site Speed, User Experience & Your Business [WebExpo 2025]
tammyeverts
6
300
The Language of Interfaces
destraynor
158
25k
A designer walks into a library…
pauljervisheath
207
24k
Git: the NoSQL Database
bkeepers
PRO
430
65k
The Cost Of JavaScript in 2023
addyosmani
51
8.5k
Optimizing for Happiness
mojombo
379
70k
Measuring & Analyzing Core Web Vitals
bluesmoon
7
510
Intergalactic Javascript Robots from Outer Space
tanoku
271
27k
Transcript
None
Allen TECH FRESH @ LINE Education • Computer Science •
Computer Science Experience • Software Engineer Intern • System Administrator • Tutorial Speaker @ NCHU @ NTOU @ LINE @ NCHU NLP LAB @ ROCLING 2024
01 02 03 什麼是 Retriever? 跟 LLM 有什麼相關? LLM 協助開發
Mind the Gap – Black-Box AI vs. Industrial Needs 我在 LINE 做了什麼? AI 落地產業應用的困難 我在研究什麼? CONTENT
SECTION 01 什麼是 Retriever? 跟 LLM 有什麼相關? 我在研究什麼?
LLM 神奇的萬事通
LLM 神奇的萬事通
秘月期 POPOO 與 Andy老師 RAG 知識過時 / 專業落差 誰是家寧跟Andy? 眾量級,一對關係很
好的YT情侶… Using RAG 誰是家寧跟Andy? … 分手後,雙方爆發多 起爭議,包括感情不 忠、財務糾紛和頻道 經營權問題。 ….
RAG (Retrieval Augmented Generation)
RAG (Retrieval Augmented Generation)
RAG (Retrieval Augmented Generation) Retriever
RAG (Retrieval Augmented Generation) Retriever
SECTION 02 LLM 協助開發 我在 LINE 做了什麼?
接到一張票的我 be like 如何使用 AI 加速我的開發流程 Coding Study Planning Writing
Test
接票只是冰山一角 開發流程 Plan • 與 PM 開會確 認需求 • PBR
估點 • Planning 接票 • Daily Standup Meeting
接票只是冰山一角 開發流程 Plan Code • 與 PM 開會確 認需求 •
PBR 估點 • Planning 接票 • Daily Standup Meeting • 撰寫可維護高 品質程式、測 試程式
接票只是冰山一角 開發流程 Plan Code Build • 與 PM 開會確 認需求
• PBR 估點 • Planning 接票 • Daily Standup Meeting • 撰寫可維護高 品質程式、測 試程式 • Formatting • 相依性檢查
接票只是冰山一角 開發流程 Test Plan Code Build • 與 PM 開會確
認需求 • PBR 估點 • Planning 接票 • Daily Standup Meeting • 撰寫可維護高 品質程式、測 試程式 • Formatting • 相依性檢查 • 執行測試 • 程式碼覆蓋率
接票只是冰山一角 開發流程 Test Plan Code Build Deploy • 與 PM
開會確 認需求 • PBR 估點 • Planning 接票 • Daily Standup Meeting • 撰寫可維護高 品質程式、測 試程式 • Formatting • 相依性檢查 • 執行測試 • 程式碼覆蓋率 • 管理Secret • 管理資源
接票只是冰山一角 開發流程 Test Plan Code Build Deploy Monitor • 與
PM 開會確 認需求 • PBR 估點 • Planning 接票 • Daily Standup Meeting • 撰寫可維護高 品質程式、測 試程式 • Formatting • 相依性檢查 • 執行測試 • 程式碼覆蓋率 • 管理Secret • 管理資源 • 檢查系統健康 狀況 • Logging Track
撰寫 BDD 測試 – Chain of Thought 你是一位熟悉 BDD 測試框架的程式開發者。請依照以下
步驟完成需求: a. 先閱讀我提供的「程式碼」與「既有測試說明」。 b. 找出程式中的流程控制(if、else、for…)會產生的所有 路徑,並以條列方式說明每條路徑需要覆蓋的測試案例 (case1、case2、case3…)。 c. 說明你選擇的 BDD 測試框架中,對應到哪些 describe / context / it 區塊。 d. 確認邏輯與覆蓋率無遺漏。 以下是輸入資料: ——— 程式碼 ——— {Code} ——— 既有測試程式碼 ——— {Test_Code} 以下我將為您生成一個範例程式碼與對應的測試說明,並依照 您的指示進行分析。 function processOrder(order) { if (!order) { return 'No order provided'; } … 請付費解鎖 付費 QR Code
撰寫 Loki Query – Chain of Thought 你是一個 Loki 查詢語法專家。請根據用戶的自然語言描述,
分以下步驟思考並產生對應的 Loki 查詢語法: 1. 分析需求,明確查詢條件(如時間範圍、日誌來源、關 鍵字等)。 2. 提取關鍵元素(job 名稱、關鍵字、欄位等)。 3. 組合並輸出正確的 Loki 查詢語法(只需語法本身,其他 解釋不用)。 輸出時請只用程式碼區塊格式呈現 Loki 查詢語法。 User Query:「查找過去1小時內,job名稱為nginx且包含 error字樣的日誌。」 思考步驟: 1. 需求是查找過去1小時的日誌。 2. 日誌來源 job="nginx"。 3. 包含關鍵字 error。 4. 時間範圍為過去1小時。 生成的 Loki 查詢語法: `{job="nginx"} |= "error”` 以下我將為您生成一個範例程式碼與對應的測試說明,並依照 您的指示進行分析。 function processOrder(order) { if (!order) { return 'No order provided'; } … 請付費解鎖 付費 QR Code
SECTION 03 Mind the Gap – Black-Box LLM vs. Industrial
Needs LLM 落地產業應用的困難
01 透過“好的” Retriever 給模 型看答案 RAG 02 給模型武器 MCP 03
讓模型擁有武器的同時,拆解 任務,大家一起合作 Agent
RAG – 依賴 Retriever 強度 如果找不到你要的,甚至找錯,會導致結果完全不一樣 幫我找一張白雲的照 片
RAG – 依賴 Retriever 強度 如果找不到你要的,甚至找錯,會導致結果完全不一樣 幫我找一張白雲的照 片 搜尋中 …
RAG – 依賴 Retriever 強度 如果找不到你要的,甚至找錯,會導致結果完全不一樣 幫我找一張白雲的照 片 搜尋中 …
RAG – 依賴 Retriever 強度 如果找不到你要的,甚至找錯,會導致結果完全不一樣 幫我找一張白雲的照 片 搜尋中 …
RAG – 依賴 Retriever 強度 如果找不到你要的,甚至找錯,會導致結果完全不一樣 幫我找一張白雲的照 片 搜尋中 …
Retriever 發展 2019~2022 ICT REALM DPR ColBERT 2000~ 2014 2018
Transformer BERT Word2Vector Glove FastText BM25 TF-IDF Inverted Index 2023 HyDE 2024 LLM Embedding Transformer 前 Transformer 後 越強,也越需要龐大資源(GPU)
Retriever 發展 2019~2022 ICT REALM DPR ColBERT 2000~ 2014 2018
Transformer BERT Word2Vector Glove FastText BM25 TF-IDF Inverted Index 2023 HyDE 2024 LLM Embedding Transformer 前 Transformer 後 越強,也越需要龐大資源(GPU) LLM 等級 超高資源
RAG 資源需求
Resource Is All You Need
None
LLM 問題? 幻覺,幻覺,還是幻覺 套上 RAG 後,還是會有錯誤以及幻覺 可怕的不是他不會,而是他自以為會
Agent
安全權限 • Prompt Injection 可以攻擊 server 無限迴圈 可觀測性 • CoT,
中間狀態非 持久化 • Trace 太長 行為不可預測 • 模型升版、Prompt 改 動、工具回傳格式變動 • 今天能跑、明天失靈 Agent 問題 • Agent 瘋狂自我反 思,停不下來
Black Box is Magic
Black Box is Magic
Final 面對 Black Box LLM 持續進化 產業究竟要繼續堆疊愈發複雜的工程 pipeline,還是回歸更小、更專精且可 解釋的模型設計? 大家可以一起來思考
None