LINEBot LLM 小訣竅

20230920_GAI_Meetup by Evan Lin
https://blindegg.kktix.cc/events/202309gai

Transcript

1. LINEBot LLM ⼩訣竅
   

   View Slide

2. ⽣成式 AI 服務
   

   View Slide

3. 打造有趣的 LINE Bot
   (Prompt Based)
   

   View Slide

4. 群組訊息摘要王
   太多群組訊息
   不敢問⼈家發⽣什麼事
   …. 給我懶⼈包
   

   View Slide

5. 群組訊息摘要王
   太多群組訊息
   不敢問⼈家發⽣什麼事
   …. 給我懶⼈包
   

   View Slide

6. arXiv論⽂⼩幫⼿
   關鍵字找論⽂
   摘要翻譯
   儲存最愛
   書籤摘要
   

   View Slide

7. 打造有趣的 RAG LINE Bot with LangChain
   (Retrieval-Augmented Generation)
   

   View Slide

8. 更快速的⽂件客服機器⼈
   EmbedChain LINE Bot
   

   View Slide

9. 簡易的客服機器⼈
   根據提供⽂件回覆
   不會回覆⽂件以外的問題
   

   View Slide

10. 打造有趣的 LINE Bot Smart Agent
    (Function Calling)
    

    View Slide

11. View Slide

12. Function Calling 概念解釋 (Before)
    Tools
    “天氣”
    地點？
    “台北市”
    

    View Slide

13. Function Calling 概念解釋 (To Be)
    Tools
    明天台北熱不熱?
    Tool: Weather
    Location: Taipei
    明天台北出門要帶傘嗎?
    

    View Slide

14. Function Calling 概念解釋 (To Be)
    Tools
    明天台北熱不熱?
    Tool: Weather
    Location: Taipei
    明天台北出門要帶傘嗎?
    

    View Slide

15. ⾃主性代理⼈
    LINE Bot
    更多綜合性的問與答
    開發 LINE Bot 轉換思考
    

    View Slide

16. View Slide

17. 透過 ⽣成式 AI 打造
    LINE Bot ⼩訣竅
    

    View Slide

18. Tip 1: 教懂你的 LLM 尋找
    

    View Slide

19. Tip 1: 教懂你的 LLM 尋找
    

    View Slide

20. Tip 1: 教懂你
    的 LLM 尋找
    

    View Slide

21. Tip 2: 怎麼讓 LLM 呼叫正確數值
    

    View Slide

22. Tip 2: 怎麼讓 LLM 呼叫正確數值
    (不知⼈間疾苦？)
    

    View Slide

23. Tip 2: 怎麼讓 LLM 呼叫正確數值
    (同⼀個問題，呼叫不同數值)
    

    View Slide

24. Tip 2: 怎麼讓 LLM 呼叫正確預期數值
    

    View Slide

25. Tip 3: 比你想像還聰明
    

    View Slide

26. LLM 打造⾃主的代理⼈
    

    View Slide

27. Key Takeaways
    ⽣成式 AI 會是 Game Changer 。
    專注在⼩範圍，提供真⼈化的體驗。
    未來醞釀中，LINE 官⽅帳號會是最好的載體。
    

    View Slide

28. View Slide

29. View Slide

30. View Slide