AI im Unternehmen – Ein Beispiel für die Vereinfachung von Prozessen

Wer hat schon Lust Rechnungen zu sortieren und ordentlich abzulegen?
Wie in vielen anderen Bereichen kann die KI hier viele Aufgaben übernehmen und Abläufe vereinfachen. Am Beispiel der Klassifizierung eingehender Rechnungen werden wir uns anschauen, wie hier eine mögliche Implementierung aussehen kann, ein paar Fallstricke beleuchten und über mögliche Weiterentwicklungen sprechen.
Zum Einsatz kommen hier unter anderem Azure OpenAI, Semantic Kernel und die Microsoft Graph API.

Transcript

1. AI im Unternehmen Ein Beispiel für die Vereinfachung von Prozessen
2. Über mich jochen@kluger.net
3. Agenda 1. KI Helferlein 2. Problemstellung 3. Die Idee 4. Die Umsetzung 5. OpenAI API Anbindung / SemanticKernel 6. Sensible Daten und Fallstricke 7. Code-Demo 8. Ausblick
4. 1. KI Helferlein – Kurze Umfrage • Was fällt Euch zuerst ein, wenn Ihr an KI-Assistenten denkt? • Benutzt Du regelmäßig KI-Assistenten? • Welchen Assistenten benutzt Du am meisten? ChatGPT, Copilot, Gemini? • Nutzt Du GitHub Copilot in der Entwicklung? • Lässt Du Dir Bilder/Grafiken von Assistenten erzeugen?
5. Meine Art des Einsatzes • Effizienz lässt sich deutlich steigern
6. Stellenweise noch umständlich
7. 2. Problemstellung • Effizienzsteigerung – super! • Regelmäßige Lästige/ eintönige Arbeiten identifizieren • Sortierung eingehender Rechnungen • Zuordnung Rechnungen zu Konto-Bewegungen • Prüfung und Zuordnung von Email-Anfragen (Ticket-System) • Zeiterfassung ➔ Gibt’s da nicht auch was von ChatGPT?
8. 3. Die Idee • Abruf von eingehenden Emails → Einfache Softwareentwicklung • Speichern angehängter PDFs → Einfache Softwareentwicklung • Auslesen der PDFs → ChatGPT Vision oder OCR Library • Kategorisieren der Rechnungen → ChatGPT mit Rückgabe strukturierter Daten? • Einlesen der Kategorisierung und Ablage → Einfache Softwareentwicklung
9. 4. Die Umsetzung
10. Microsoft Graph API • Einheitliche Programmierschnittstelle für die Microsoft Cloud • Lesen und Schreiben über nahezu alle Microsoft Dienste • Detaillierte Rechteverwaltung über Azure Portal • Stellenweise etwas komplex
11. PDF/ OCR • ChatGPT Vision noch nicht verfügbar → OCR/ PDF parsen • Erfolg mittelmäßig • Eventuell mit langchain besser – Test noch ausstehend
12. 5. OpenAI API Anbindung / Semantic Kernel • Azure OpenAI Bereitstellung Model • Semantic Kernel Konfiguration (häufige Änderungen) • Nutzung von C# • Entscheidung gegen Function Calling • Semantic Kernel Plugin • Code: Implementierung in C# • Text: Ordnerstruktur mit Json Config Datei und Promt als Text-Datei • Prompt mit JSON Beispielstruktur
13. 6. a) Sensible Daten OpenAI • „We may use Content to provide, maintain, develop, and improve our Services, comply with applicable law, enforce our terms and policies, and keep our Services safe. “ • OptOut möglich Quelle: https://openai.com/policies/terms-of-use Azure OpenAI Service • „Your prompts (inputs) and completions (outputs), your embeddings, and your training data: • are NOT available to other customers. • are NOT available to OpenAI. • are NOT used to improve OpenAI models. • are NOT used to improve any Microsoft or 3rd party products or services. • are NOT used for automatically improving Azure OpenAI models for your use in your resource (The models are stateless, unless you explicitly fine-tune models with your training data). • Your fine-tuned Azure OpenAI models are available exclusively for your use. • The Azure OpenAI Service is fully controlled by Microsoft; Microsoft hosts the OpenAI models in Microsoft’s Azure environment and the Service does NOT interact with any services operated by OpenAI (e.g. ChatGPT, or the OpenAI API). Quelle: https://learn.microsoft.com/en-us/legal/cognitive-services/openai/data-privacy
14. 6. b) Fallstricke • OCR PDF Parsing • Falsche Klassifizierung • Zuordnung zu Kluger.net GmbH • Zuordnung zur Bank • Ungültige Zeichen für Dateinamen • Halluzinieren
15. 7. Code-Demo
16. 8. Ausblick • Langchain oder ChatGPT Vision – besser als OCR für PDFs • Test mit lokalem LLM (langsam aber mehr Kontrolle über Datenschutz) • Erweiterung um Scans und Brief-Post • Erweiterung um ServiceDesk Mails
17. Any Questions?