Alexa unplugged: AI and Privacy

Sprachassistenten bieten unzählige Möglichkeiten unser Leben zu bereichern und so finden sich die cloudbasierten Apps der Konzerne Amazon, Google und Apple in immer mehr deutschen Haushalten. Zugleich stellt sich jedoch unweigerlich die Frage, was dies für unsere Privatsphäre bedeutet.

Der Vortrag wirft ein differenzierteres Licht auf cloudbasierte Programme und gibt gleichzeitig eine Einführung in Snips. Dieser Sprachassistent läuft, anders als die bekannteren cloudbasierten Lösungen, vollständig offline mit minimalen Hardware-Anforderungen. Dabei funktioniert er sowohl schnell als auch zuverlässig.

Transcript

1. Alexa unplugged: AI and Privacy Maximilian Bachmann July 5, 2019 Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 1 / 18
2. Was macht den Datenschutz im Sprachkontext so wichtig? Sprache kann viel ¨ uber die Emotionen oder den Gem¨ utszustand eines Menschen aussagen Maschinen k¨ onnen auch mit der Stimme eine Person mit guter Sicherheit identifizieren Stimme kann nicht ver¨ andert werden ⇒ Stimme ist ein biometrischen ”Abdruck” einer Person (¨ ahnlich wie z.B. Fingerabdr¨ ucke, Netzhauterkennung oder Venenkartierung) ⇒ Stimme kann kopiert und manipuliert werden, so dass sie imitiert und die Identit¨ at gestohlen werden kann Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 2 / 18
3. Was macht den Datenschutz im Sprachkontext so wichtig? Spracherkennungstechnologie basiert auf maschinellen Lerntechniken, die per Definition Trainingsdaten ben¨ otigen es gibt zwar bereits viele Forschungsarbeiten die sich mit der automatisierten Kennzeichnung besch¨ aftigen, aktuell muss dies allerdings immer noch manuell geschehen Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 3 / 18
4. Was macht den Datenschutz im Sprachkontext so wichtig? Amazon besch¨ aftigt mehrere Tausend Personen zur Verbesserung von Alexa ⇒ Jeder Reviewer kann pro Schicht rund 1000 Aufnahmen kategorisieren Auch Auswertung von unabsichtlichen Aufnahmen (∼ 10%) Es gibt zwar eine Opt Out M¨ oglichkeit, jedoch kein Hinweis auf diese Sprachauswertung in den Nutzungsbedingungen Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 4 / 18
5. Was macht den Datenschutz im Sprachkontext so wichtig? Sprachassistenen von Natur aus invasiv (oft in intimen Kontexten eingesetzt) in der Regel zu Hause auch in Schlaf- und Badezimmern auch immer mehr in Besprechungsr¨ aumen, Fabriken und Autos Anwesenheit wird dem unbewussten Beobachter oft nicht mitgeteilt Viele Informationen k¨ onnen gesammelt werden ohne, dass dies aktiv bemerkt wird durch unbeabsichtigtes Ausl¨ osen (false positive wakeword) andere Informationen abgeleitet aus dem Gebrauch des Sprachassistenten Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 5 / 18
6. Was macht den Datenschutz im Sprachkontext so wichtig? unter dem Argument der Verbrechensbek¨ ampfung gibt es auch in Deutschland immer radikalere ¨ Uberwachungsgesetze in den USA m¨ ussen entsprechend dem Foreign Intelligence Surveilance (FISA) Act schon l¨ anger auch Daten von US Unternehmen wie Amazon die nicht in den USA gespeichert werden an US Nachrichtendienste herausgegeben werden Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 6 / 18
7. Was macht den Datenschutz im Sprachkontext so wichtig? Die Interaktion mit Sprachassistenten wird wesentlich fl¨ ussiger je mehr zus¨ atzlichen Informationen ¨ uber den Geschmack, die Kontakte, die Gewohnheiten usw. der Endbenutzer bekannt ist ⇒ Es besteht entsprechend der Wunsch der Unternehmer immer mehr private Daten des Nutzer zu erhalten, wobei diese entsprechend wieder großen Spielraum f¨ ur Missbrauch geben Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 7 / 18
8. Was macht den Datenschutz im Sprachkontext so wichtig? Sprachassistenten kombinieren: Daten mit biometrischem Potenzial Datenintensive Technologie Anwendungsf¨ alle, die sich auf intime und vertrauliche Bereiche konzentrieren Verbesserungen, die sich auf das Hinzuf¨ ugen von Kontexten und das Erlangen von mehr Informationen ¨ uber Endbenutzer konzentrieren ⇒ Sprachassistenten bieten ein hohes Potential Bedrohungen der Privatsph¨ are zu erzeugen, wenn diese nicht im Hinblick auf die Privatsph¨ are entwickelt werden Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 8 / 18
9. Leistung vs. Datenschutz Eine h¨ aufige Rechtfertigung f¨ ur die Zentralisierung stellt die Leistung dar. So wird behauptet, dass die Zentralisierung von Endbenutzerdaten erforderlich ist, um die Leistung von Cloud-basierten Assistenten zu maximieren Fehlalarme und Leistungsprobleme zwar vorhanden, hierf¨ ur sind aber nicht so enorme Datenmengen notwendig ab einem bestimmten Punkt verbessert sich die Leistung durch mehr Daten nur noch relativ wenig optimale Leistung ben¨ otigt eine Vielzahl an Daten, aber auch hier sollten die Unternehmen bereits gen¨ ugend Daten haben Es gibt Alternativen zu Datens¨ atzen von Endbenutzern die vergleichbare Ergebnisse erzielen (z.B Mozilla Common Voice) Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 9 / 18
10. Funktionsweise Sprachassistenten Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 10 / 18
11. Spracherkennung Akkustisches Modell wandelt raw Audio in Phonem Warscheinlichkeiten um Sprachmodell wandelt diese in W¨ orter um NLU extrahiert strukturierte Daten aus dem gesprochenen Text Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 11 / 18
12. Automatic Speech Recognition Engine ASR cloud: Spracherkennung auf Basis von großen deep learning Modellen hat sich in den letzten Jahren stark verbessert entsprechende Modelle f¨ ur menschliche Parit¨ at bestehen aus mehreren neuralen Netzwerken mit jeweil mehreren hundert Millionen Parametern, sowie Sprachmodelle aus mehreren Millionen n-grams ⇒ Die Gr¨ oße der Modelle in Verbindung mit der Echtzeitanforderung machen einen Einsatz auf kleinen Ger¨ ate unm¨ oglich Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 12 / 18
13. Automatic Speech Recognition Engine Ansatz von Snips zur L¨ osung der Probleme: Nutzung von Audioaufnahmen aus ¨ offentlichen oder kommerziellen Quellen wesentlich kleineres akkustisches Modell Spezialisierung des Sprachmodells Context Awareness mithilfe von entity injection Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 13 / 18
14. Leistungsbenchmark Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 14 / 18
15. Was ist Snips? franz¨ osisches Unternehmen keine Sprachaufnahmen werden in die Cloud gestellt L¨ auft vollst¨ andig auf eigener Hardware Geringe Hardwareanforderungen kompatibel mit Linux, Android und iOS unterst¨ utzt Englisch, Deutsch, Spanisch, Franz¨ osisch, Japanisch, Italienisch, (Koreanisch) Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 15 / 18
16. Hardwareanforderungen Raspberry Pi 3 absolut ausreichend 4x1.2 Ghz 1GB Ram f¨ ur Satellite Devices sogar Raspberry Pi 0 ausreichend 1x1 Ghz 500MB Ram SD Karte Mikrophon ggfs ein Lautsprecher Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 16 / 18
17. Modularisierung von Snips Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 17 / 18
18. MQTT Client 1 Broker Client 2 connect connect subscribe: ’topic/’ publish: ’topic/’ publish: ’topic/’ loop loop main loop disconnect disconnect Maximilian Bachmann Alexa unplugged: AI and Privacy July 5, 2019 18 / 18