In geheimer Mission: AI Agents entwickeln

Transcript

1. IN GEHEIMER MISSION AI Agents entwickeln Jörg Neumann
2. THEMEN  AI Development  Business App Development  Frontend Technologies  Development, Consulting, Coaching, Training KONTAKT  Mail: joerg.neumann@neogeeks.de  LinkedIn: www.linkedin.com/in/jörgneumann  X: @JoergNeumann  Web: www.neogeeks.de JÖRG NEUMANN Founder & CEO NeoGeeks GmbH Azure OpenAI Service, Azure Machine Learning Platform
3. BOTS, ASSISTANTS & AGENTS Chatbot Allgemeine Fragen beantworten, sowie Texte und Bilder generieren RAG Fragen auf Basis einer fachlichen Grundierung beantworten Assistant Assistent der mit dem Benutzer zusammenarbeiten und Tools verwenden, um eine Aufgabe zu erledigen Agents Vollständig autonom agierende Agenten, die zusammen eine Aufgabe erledigen und nur sehr wenig Benutzerinteraktion erfordern
4. DATEN • Dokumente • Datenbankinhalte TOOLS • Functions • Code Interpreter • File Search WAS IST EIN AGENT? Ausgabe Eingabe ML Model • Speech, Vision • Regression • Klassifizierung Agent übernimmt Teilaufgaben LLM
5. LIBRARIES VON OPENAI Chat Completion API • Für einfache Chat- Kommunikation • Stateless Assistants API • Stateful • Tools Support • Deprecated Responses API • Stateful • Mehr Tools • Agents Agent SDK • Agent Workflows • Python Features • Guardrails • Tracing Package: openai Package: openai Package: openai Package: openai-agents
6. ASSISTANTS API CODE INTERPRETER  Erzeugen und ausführen von Python-Scripts in einer Sandbox  Assistant Playground: No-Code-Umgebung zum Testen  OpenAI Playground
7. DEMO Assistants API: Code Interpreter Source
8. RESPONSES API FILE SEARCH  Bietet die Möglichkeit Dateien hochzuladen und zu analysieren  Bis zu 10K Dateien pro Assistent  Semantischer Suche mit Hilfe von Vector Stores
9. DEMO Responses API: File Search Source
10. RESPONSES API WEB SEARCH  Apps, die zeitnahe Informationen aus dem Web benötigen  Die Antworten enthalten Links zu Quellen und Inline-Zitate  Aktuell in der Preview, für alle Benutzer verfügbar
11. DEMO Responses API: Web Search Source
12. ZUKÜNFTIGE ENTWICKLUNG COMPUTER USE  Agent kann Aufgaben auf einem Rechner ausführen  Verwendet denselben Agenten, der von OpenAIs Operator verwendet wird  Erfasst Maus- und Tastaturaktionen, die vom Modell generiert werden  Aktuell in Preview, verfügbar für ausgewählte Entwickler
13. AGENTS SDK HINTERGRUND  Vereinfacht die Orchestrierung von Multi-Agenten-Workflows  Nachfolger des Swarm-Frameworks von OpenAI  Verfügbar für Python und Node.js (in Kürze verfügbar)
14. AGENTS SDK FEATURES  Agents: Leicht konfigurierbare LLMs mit Anweisungen und integrierten Tools.  Handoffs: Intelligente Übertragung der Kontrolle an Agenten  Guardrails: Konfigurierbare Sicherheitsprüfungen für die Ein- und Ausgangsvalidierung.  Tracing & Observability: Überwachung der Agentenausführung pip install openai-agents
15. DEMO Agents SDK Source
16. FAZIT  Agenten können selbstständig handeln  Sie nutzen dafür Functions, Tools und Daten  Vorgefertigte Tools, wie Code Interpreter, File- oder Web Search sind nützlich  Agenten können autonome Teams bilden  Das Agent SDK enthält alle notwendigen Funktionen
17. Q& A
18. RESSOURCEN  OpenAI Responses API  OpenAI Agent SDK  OpenAI Cookbook
19. "The electric light did not come from the continuous improvement of candles." Oren Harari, Wirtschaftsprofessor NeoGeeks AI Workshops Generative AI eröffnet viele neue Möglichkeiten in diversen Geschäftsbereichen. Ob als Chat im Kundensupport, als Unterstützung im Vertragsmanagement, dem Texten und Entwerfen von Logos im Marketing oder als Hilfe beim Onboarding neuer Mitarbeiter*innen – das Feld an Möglichkeiten ist vielfältig. Doch auch die Themen Datenschutz und IT-Sicherheit müssen hierbei berücksichtig werden. Wir möchten Euch helfen von den neuen Möglichkeiten zu profitieren! Dazu bieten wir Euch individuelle Workshop an, in denen wir zeigen, wie Ihr AI-Modelle in Eurem Unternehmen sicher betreiben und mit Eurem domänenspezifischen Wissen trainieren könnt. Wir unterstützen Euch beim Finden von sinnvollen Einsatzszenarien, dem Sammeln und Aufbereiten der erforderlichen Daten, bis hin zur Integration in Eure IT- Landschaft. Wir helfen Euer AI-Vorhaben zu realisieren. AI Ideation Workshop • Einordnung des Themas und der Möglichkeiten • Ideenfindung im Kontext des eigenen Geschäfts • Zielgruppe: Entscheider • Dauer: ½ Tag › Die Agenda kann individuell auf Eure Bedürfnisse angepasst werden. › Wir führen die Workshops je nach Bedarf bei Euch im Haus oder remote durch. › Im Anschluss erhaltet ihr neben dem Folienmaterial eine Dokumentation der diskutierten Themen, sowie eine Empfehlung für das weitere Vorgehen. › Die Workshops werden durch Jörg Neumann durchgeführt. Er ist Microsoft MVP für die Bereiche Azure OpenAI Service und Azure Machine Learning Platform und verfügt über langjährige Erfahrung im AI-Umfeld. Kontakt: joerg.neumann@neogeeks.de AI Exploration Workshop • Überblick der technischen Möglichkeiten • Entwurf eines Projekts oder PoC • Projektplanung und Setup • Zielgruppe: Architekten • Dauer: 1 Tag AI Developer Training • Technisches Training zu GenAI • Anpassen von Modellen • Entwickeln von AI-Lösungen • Zielgruppe: Entwickler • Dauer: 2 Tage Coaching und Mentoring • Beratung und Projekt- begleitendes Coaching Development Power • Unterstützung für Euer Team • Entwicklung Eurer Lösung