$30 off During Our Annual Pro Sale. View Details »

LINEBot LLM 小訣竅

LINEBot LLM 小訣竅

20230920_GAI_Meetup by Evan Lin
https://blindegg.kktix.cc/events/202309gai

LINE Developers Taiwan
PRO

September 20, 2023
Tweet

More Decks by LINE Developers Taiwan

Other Decks in Technology

Transcript

  1. LINEBot LLM ⼩訣竅

    View Slide

  2. ⽣成式 AI 服務

    View Slide

  3. 打造有趣的 LINE Bot
    (Prompt Based)

    View Slide

  4. 群組訊息摘要王
    太多群組訊息
    不敢問⼈家發⽣什麼事
    …. 給我懶⼈包

    View Slide

  5. 群組訊息摘要王
    太多群組訊息
    不敢問⼈家發⽣什麼事
    …. 給我懶⼈包

    View Slide

  6. arXiv論⽂⼩幫⼿
    關鍵字找論⽂
    摘要翻譯
    儲存最愛
    書籤摘要

    View Slide

  7. 打造有趣的 RAG LINE Bot with LangChain
    (Retrieval-Augmented Generation)

    View Slide

  8. 更快速的⽂件客服機器⼈
    EmbedChain LINE Bot

    View Slide

  9. 簡易的客服機器⼈
    根據提供⽂件回覆
    不會回覆⽂件以外的問題

    View Slide

  10. 打造有趣的 LINE Bot Smart Agent
    (Function Calling)

    View Slide

  11. View Slide

  12. Function Calling 概念解釋 (Before)
    Tools
    “天氣”
    地點?
    “台北市”

    View Slide

  13. Function Calling 概念解釋 (To Be)
    Tools
    明天台北熱不熱?
    Tool: Weather
    Location: Taipei
    明天台北出門要帶傘嗎?

    View Slide

  14. Function Calling 概念解釋 (To Be)
    Tools
    明天台北熱不熱?
    Tool: Weather
    Location: Taipei
    明天台北出門要帶傘嗎?

    View Slide

  15. ⾃主性代理⼈
    LINE Bot
    更多綜合性的問與答
    開發 LINE Bot 轉換思考

    View Slide

  16. View Slide

  17. 透過 ⽣成式 AI 打造
    LINE Bot ⼩訣竅

    View Slide

  18. Tip 1: 教懂你的 LLM 尋找

    View Slide

  19. Tip 1: 教懂你的 LLM 尋找

    View Slide

  20. Tip 1: 教懂你
    的 LLM 尋找

    View Slide

  21. Tip 2: 怎麼讓 LLM 呼叫正確數值

    View Slide

  22. Tip 2: 怎麼讓 LLM 呼叫正確數值
    (不知⼈間疾苦?)

    View Slide

  23. Tip 2: 怎麼讓 LLM 呼叫正確數值
    (同⼀個問題,呼叫不同數值)

    View Slide

  24. Tip 2: 怎麼讓 LLM 呼叫正確預期數值

    View Slide

  25. Tip 3: 比你想像還聰明

    View Slide

  26. LLM 打造⾃主的代理⼈

    View Slide

  27. Key Takeaways
    ⽣成式 AI 會是 Game Changer 。
    專注在⼩範圍,提供真⼈化的體驗。
    未來醞釀中,LINE 官⽅帳號會是最好的載體。

    View Slide

  28. View Slide

  29. View Slide

  30. View Slide