Technische Herausforderungen bei der Implementierung von TinyML auf Mikrocontrollern

Die zunehmende Verbreitung von IoT-Geräten erfordert intelligente Lösungen, die effizient und zuverlässig arbeiten, oft unter ressourcenbeschränkten Bedingungen. Dieser Vortrag bietet eine Einführung in die Welt von TinyML – die direkte Anwendung von Machine-Learning-Modellen auf Mikrocontroller – und zeigt dessen entscheidende Rolle bei der Entwicklung autonomer und energieeffizienter IoT-Anwendungen.
Anhand praktischer Beispiele wird die Umsetzung von TinyML-Modellen demonstriert. Zudem werden die Herausforderungen bei der Portierung und Implementierung von trainierten Modellen für Mikrocontroller näher betrachtet.

Transcript

1. Technische Herausforderungen bei der Implementierung von TinyML auf Mikrocontrollern Lars Gregori, 23.09.2025
2. TinyML mit TensorFlow und Python für Microcontroller
3. Agenda 1. Einführung & Motivation 2. Was ist TinyML? 3. Hardware: Raspberry Pi Pico 4. MicroPython für TinyML 5. Praktische Beispiele 6. Herausforderungen & Lösungsansätze 7. Zusammenfassung
4. 1. Einführung & Motivation Die IoT-Revolution • 41,1 Milliarden vernetzte Geräte bis 2030 (IoT Analytics) • Wachsender Bedarf nach autonomen, intelligenten Lösungen • Herausforderung: Ressourcenbeschränkte Umgebungen
5. 2. Was ist TinyML? • Tiny Machine Learning • ML-Modelle auf Mikrocontrollern • Speicherbedarf: < 1 MB • Energieverbrauch: < 1 mW
6. Input MCU mit TinyML Output
7. Anwendungsgebiete • Wearables (Fitnesstracker) • Voice Assistants (Wake-Word) • Predictive Maintenance • Anomalieerkennung • Autonome Fahrzeuge • Smart Cities (Verkehrsoptimierung) • Healthcare (kontinuierliches Monitoring) • Industrie 4.0 (Real-time Quality Control)
8. Vorteile von TinyML • Datenschutz – Daten verlassen das Gerät nicht • Latenz – Millisekunden statt Sekunden • Kosten – Keine Cloud-Kosten, günstige Hardware • Verfügbarkeit – Funktioniert ohne Internetverbindung • Energieeffizienz – Batteriebetrieb für Monate/Jahre
9. 3. Hardware Limitierungen von MCUs • Begrenzter Speicher (KB statt GB) • Eingeschränkte Rechenleistung • Einfache Modelle erforderlich • Update-Herausforderungen
10. Warum Raspberry Pi Pico? • Kostengünstig • Weit verbreitet • MicroPython-Support out-of-the-box • Ausreichend Speicher für TinyML-Modelle • Aktive Community • Dokumentation
11. Raspberry Pi Pico (RP2040) • Dual-core ARM Cortex M0+ @ 133 MHz • 264 KB SRAM • 2 MB Flash-Speicher • 26 GPIO Pins • Kosten: ~5€
12. 4. MicroPython für TinyML • Einfache Syntax - ideal für Prototyping • Cross-Platform Kompatibilität • Interactive REPL* für Live-Testing • Rich Library Support *Read–Eval–Print Loop
13. DEMO
14. MicroPython + TensorFlow Micro • TensorFlow Lite Micro Integration • Modelle im .tflite Format • Quantisierte Modelle für Speichereffizienz
15. TensorFlow Micro TensorFlow TensorFlow Lite TensorFlow Micro Training Inference
16. Entwicklungs-Workflow Datensammlung → Training (Jupyter Notebook) → Modell-Optimierung → TFLite-Konvertierung → MicroPython-Integration → Hardware-Test → Deployment
17. Entwicklungs-Workflow Datensammlung → Training (Jupyter Notebook) → Modell-Optimierung → TFLite-Konvertierung → MicroPython-Integration → Hardware-Test → Deployment
18. DEMO
19. MNIST Beispiel • Handschriftliche Ziffern • 28×28 Graustufenbilder • Referenzdatensatz (Benchmark-Datensatz)
20. DEMO
21. Wake-Word Beispiel Sprache Wake- Word ML LED
22. DEMO
23. 6. Technische Herausforderungen & Lösungsansätze • Begrenzter Speicher • Eingeschränkte Rechenleistung • Einfache Modelle • Update-Herausforderungen
24. Begrenzter Speicher Problem: Modelle > verfügbarer RAM/Flash Lösungen: • Quantisierung • Pruning • Knowledge Distillation
25. DEMO
26. Eingeschränkte Rechenleistung Problem: Komplexe Operationen zu langsam Lösungen: • Optimierte Algorithmen • Hardware-Beschleuniger • Batch-Processing
27. Einfache Modelle Problem: Genauigkeit →Modellkomplexität Lösungen: • Domain-spezifische Optimierungen • Kombination mehrerer kleiner Modelle • Knowledge Distillation
28. 7. Zusammenfassung • TinyML ermöglicht intelligente IoT-Geräte ohne Cloud-Abhängigkeit • Raspberry Pi Pico + MicroPython ideale Entwicklungsplattform • Praktische Umsetzung ist mit den richtigen Tools machbar • Herausforderungen lösbar durch bewusste Design- Entscheidungen
29. Vielen Dank für Ihre Aufmerksamkeit! Lars Gregori https://about.larsgregori.de/ TinyML mit TensorFlow und Python für Microcontroller https://github.com/LinkedInLearning/tinyml-microcontroller-5901431 https://www.linkedin.com/learning/tinyml-mit-tensorflow-und-python-fur-microcontroller
30. “Minimalistic geometric blocks and connections in blue and gray, evoking efficiency and low-power technology”