Raspberry Pi AI HAT+ 2 介紹(#49)

這是我們在 樹莓派社群聚會 #49 的分享，介紹 Raspberry Pi AI HAT+ 2 。

購買 Raspberry Pi AI HAT+ 2
https://piepie.com.tw/product/raspberry-pi-ai-hat-plus-2

一定會用到的 樹莓派 Pi 5 主動式散熱器 | Active Cooler
* https://piepie.com.tw/product/active-cooler-for-raspberry-pi-5

Raspberry Pi 樹莓派社群聚會 #49
https://piepie.com.tw/62010/raspberrypi-meetup-49

Transcript

1. Raspberry Pi AI HAT+ 2 介紹 台灣樹莓派 <sosorry@piepie.com.tw> 2026/02/09 @Raspberry Pi Meetup #49
2. 姓名標示 — 非商業性 — 相同方式分享 CC (Creative Commons) 姓名標示 — 你必須給予 適當表彰、提供指向本授權 條款的連結，以及 指出（本作品的原始版本）是否已 被變更。你可以任何合理方式為前述表彰，但不得以 任何方式暗示授權人為你或你的使用方式背書。 非商業性 — 你不得將本素材進行商業目的之使 用。 相同方式分享 — 若你重混、轉換本素材，或依本 素材建立新素材，你必須依本素材的授權條款來 散布你的貢獻物。
3. 3 • Raspberry Pi 官方經銷商 • 專注 Raspberry Pi 應用與推廣 , 舉辦社群活動 關於我們
4. • COSCUP, MakerConf, PyCon, HKOSCon 講者 • 投影片 • https://speakerdeck.com/piepie_tw • 程式碼 • https://github.com/piepie-tw • 台灣樹莓派網站 : • https://piepie.com.tw/ • Facebook: • https://www.facebook.com/RaspberryPi.Taiwan 分享 x 教學
5. 5 • Raspberry Pi AI HAT+ 2 介紹 • 規格介紹 / 比較 • 安裝設定 • 展示 • 教學資源 大綱
6. 6 • 從 AI Kit 到 AI HAT+ • 原本 AI Kit 包含 M.2 HAT+ 和 Hailo-8L NPU 模 組 ( 不分售 ), 現在整合在同一個 HAT+ • AI Kit 支援 M.2 2230/2242 樣式 Raspberry Pi AI HAT+
7. • Hailo 在 2017 年由以色列國防單位成員創立 • 專注於人工智慧的晶片製造商 • 產品包含 AI accelerators 和 AI vision processors • AI HAT+(13 TOPS/26 TOPS) 都是台灣製造 • Hailo-8 和 Hailo-8L 是不同產品 • Hailo-8L 算力為 13 TOPS, 低功耗適合邊緣加速 • Hailo-8 算力為 26 TOPS, 具有更高性能
8. • 都和影像 (Vision) 相關 適合的 AI HAT+ 應用？
9. 9 • 2026/01/15 發布 Raspberry Pi AI HAT+ 2 https://www.jeffgeerling.com/blog/2026/raspberry-pi-ai-hat-2/
10. 10 • 遵循 HAT+ 規格 • Hailo-10H 加速器具有 40 TOPS(INT4) 推理效能 • 板載 8GB LPDDR4 記憶體 • 使用 PCIe 和主板通訊 , 目前只支援 Pi 5 • 2.5W 功耗 AI HAT+ 2 硬體規格
11. 11 • 支援多種影像任務 ( 偵測 / 分割 / 姿態 / 深度 ) • 板載的 8GB 專用於 AI 工作負載 • 支援 LLM 和 VLM 應用 • 文字生成 • 翻譯 • 語音轉文字 • 視覺場景理解 AI HAT+ 2 應用場景
12. 12 AI HAT+ vs. AI HAT+ 2 https://www.raspberrypi.com/documentation/accessories/ai-hat-plus.html
13. 開箱 AI HAT+ 2
14. 完整安裝 ( 可外加 Active Cooler) https://www.waveshare.com/raspberry-pi-ai-hat-plus-2.htm • 產品有附黑色散熱片 , Active Cooler 需另外購買
15. • 一個 Docker 包含四個 Hailo 核心軟體 • 1. Hailo Model Zoo(Vision + GenAI) • 2. Hailo Applications (TAPPAS High- Performance Application Toolkit) • 3. Hailo Runtime(Hailo RT) • 4. Dataflow Compiler(DFC) Hailo 一體式方案簡化 AI 開發流程 https://hailo.ai/blog/how-software-can-streamline-customer-experience-in-edge-ai/
16. Hailo 一體式方案簡化 AI 開發流程
17. Hailo Model Zoo https://hailo.ai/blog/how-software-can-streamline-customer-experience-in-edge-ai/ • 提供多種 pre-trained 模型 , 開箱即用 • 支援 TensorFlow 或是 ONNX 格式
18. Hailo Model Zoo GenAI • 支援多種 GenAI 模型 (deepseek/llama3/qween2.5) • 可使用 REST API 存取 Ollama, 如 ChatGPT 體驗 • 提供多種工具做 LoRA 或 Fine-Tune 模型
19. TAPPAS = Template APPlications And Solutions https://github.com/hailo-ai/tappas/
20. • 將客製化模型或是 Model Zoo 整合到視覺管道 利用 HailoRT 和 GStreamer 框架 https://hailo.ai/blog/how-software-can-streamline-customer-experience-in-edge-ai/
21. • 硬體版本 :Raspberry Pi 5/16GB • 作業系統 :2025-12-04-raspios-trixie-arm64-full 今日環境
22. • $ sudo apt-get update • $ sudo apt-get install dkms • $ sudo apt-get install hailo-h10-all 安裝設定 ( 用 apt 安裝只能裝到 5.1.1)
23. 搭配 Hailo Develepor Zone 下載
24. 確認安裝設定完成
25. Hailo 10H 支援的模型類型 https://github.com/hailo-ai/hailo-apps/blob/main/doc/user_guide/installation.md
26. Hailo 10H 支援的 LLM 模型 https://www.tomshardware.com/raspberry-pi/raspberry-pi-ai-hat-plus-2-review
27. Hailo 10H 支援的 VLM/ASR 模型 https://github.com/hailo-ai/hailo_model_zoo_genai/blob/main/docs/MODELS.rst
28. DEMO
29. Hailo Ollam Server
30. LLM Open WebUI
31. deepseek 翻譯
32. • 使用 OpenAI Whisper 模型 , 支援 100+ 語言 Whisper ASR
33. • Qwen2-VL 是阿里通義千問視覺模型 , 特色有 • 視覺理解 : 可分析物體 / 文字 / 圖表和佈局的能力 • 智慧代理能力 : 可作視覺代理 , 具備推理能力 • 長影片理解 : 可理解超過 1 小時影片 • 視覺定位 : 可用邊界框或點定位圖片中的物體 • 結構化輸出生成 : 可為發票、表格做結構化輸出 Qwen2-VL VLM
34. Qwen2-VL VLM
35. 35 • 無法同時推論兩種模型 ( 但可以串接 ) • 微調 LLM, 可使用 LoRA(Low-Rank Adaptation) • 記憶體持續漲價 , 可能會有便宜版本 , 或是又漲價 目前遇到的挑戰
36. • https://www.raspberrypi.com/documentation/ computers/ai.html • https://github.com/hailo-ai/hailo-apps • https://github.com/hailo-ai/hailo_model_zoo • https://github.com/hailo-ai/hailo_model_zoo_genai • https://github.com/hailo-ai/tappas/ • https://hailo.ai/developer-zone/documentation/ 教學資源
37. • @RaspberryPi 贊助 Raspberry Pi Beginner's Guide • @ 台灣樹莓派提供 EDA Pi 5 開放式散熱外殼抽獎 • @ 台灣樹莓派提供微雪工業級 USB 轉 TTL 傳輸線抽獎 • @RICELEE 提供 Pico 2 抽獎 • @RICELEE 提供原廠 microSD 記憶卡 (32GB) 抽獎 • @Creative5 贊助 USB 小禮物 感謝乾爹們～
38. Raspberry Pi Rocks the World Thanks