容器遷移與生成式 AI 應用的趨勢剖析

Transcript

1. Taiwan · Singapore · Thailand · Japan · Hong Kong · Malaysia iKala Confidential and Proprietary 容器遷移與生成式 AI 應用的趨勢剖析 Browny Lin (林士翔) Technical Director, iKala Cloud
2. Agenda • Trend on Container • Trend on AI, especially Gen AI • Takeaway
3. 3 Trend on Container
4. Why use Container? Source: Why use Containers? 1. Runs anywhere 2. Light-weight
5. Why use Kubernetes? Source: Why use Containers? 1. Container orchestration 2. Declarative
6. Source: 10 insights on real-world container use
7. Source: 10 insights on real-world container use
9. Source: 10 insights on real-world container use
10. Source: 10 insights on real-world container use
11. Source: 10 insights on real-world container use
13. Source: 10 insights on real-world container use
14. Source: 10 insights on real-world container use
15. Recap 1. Serverless 2. GPU/AI workload 3. Utilization 4. Stability
16. 16 Trend on AI, especially Gen AI
17. Source: IOT ANALYTICS Q2 2023 全世界的企業領導者現在眼中只有生成式 AI
18. We tend to overestimate the effect of a technology in the short run and underestimate the effect in the long run - Roy Amara Amara's Law: 短期高估；長期低估 “
19. Source: https://chat.lmsys.org/
20. Source: LMSYS Chatbot Arena Leaderboard
21. Source: HAI AI Index Report 2024 💡AI 在部分任務上的 表現，已經超越人類 無論你最擅長什麼（通常是你最喜歡的），你可能比人 工智慧更好，但無論你不擅長什麼，人工智慧都可以 幫助填補空白。
22. Source: HAI AI Index Report 2024 💡產業界 > 學術界 的研究量能
23. Source: HAI AI Index Report 2024 💡基礎模型 訓練成本巨大
24. Source: HAI AI Index Report 2024 💡AI 不會取代你， 但會用 AI 的人會
25. Source: Put AI to work for application modernization 💡如何落地: 從 +AI 到 AI+
26. 💡價值創造: ROI 難以計算, 錯過的 風險更大 Source: Now decides next: Getting real about Generative AI - Deloitte
27. 💡規模化導入: GenAI 工具導入仍低， 風險(資料)和利益仍需權衡 Source: Now decides next: Getting real about Generative AI - Deloitte
28. 💡AI 賦能: 重新設計工作流程， 改變人才策略 Source: Now decides next: Getting real about Generative AI - Deloitte
29. 1. 要有好的 AI 策略 必先有好的 數據策略 2. 找出 AI 對自身既有商業模式 能帶來的加值 3. 將 AI 當成電力來規劃事業策 略 企業應如何打造 +AI 策略
30. 30 Takeaway
31. Source: How to Make AI UX Your Moat 💡AI 不是護城河， UX (Data) 才是
32. ChatGPT 震驚了世界不是因為模型而是體驗 • Textbox in, streaming out 模擬了閱讀與聆聽 • Abstracting state 不需要用戶將先前的問題和答案作為附加狀態傳遞給 新查詢。ChatGPT 提取過去的狀態，以便將來的查詢 可以自然地參照狀態。真正的「聊天」 Source: How to Make AI UX Your Moat
33. 好的體驗需要在互動的每個環節下功夫 💡UX+ • 命令：讓用戶創建任務預設，然後能夠搜尋它們 • 約束：在應用程序中創建自動拉入的用 戶設置 • 背景：簡化數據收集
34. Customer Assistance: Apply 3P (Present -> Practical -> Powerful) Source: Zalando to launch a fashion assistant powered by ChatGPT
36. https://ikala.ai +886-2-8768-1110 contact@ikala.ai