Slide 1

Slide 1 text

THE ART OF PROMPT ENGINEERING Jörg Neumann

Slide 2

Slide 2 text

THEMEN  AI Development  Business App Development  Frontend Technologies  Development, Consulting, Coaching, Training KONTAKT  Mail: [email protected]  LinkedIn: www.linkedin.com/in/jörgneumann  X: @JoergNeumann  Web: www.neogeeks.de JÖRG NEUMANN Founder & CEO NeoGeeks GmbH Azure OpenAI Service, Azure Machine Learning Platform

Slide 3

Slide 3 text

AI Dev Camp 28.-29.1.2025 in Düsseldorf Das Trainingsevent für KI-getriebene Softwareentwicklung. 2 Tage geballte Wissensvermittlung mit Jörg Neumann, Neno Loje & Special Guests zu einem All- Inclusive Preis. Jörg Neumann MVP AI Platform Neno Loje MVP Developer Technologies www.AIDevCamp.de

Slide 4

Slide 4 text

PROMPTING SZENARIEN  Frage formulieren ›  Arbeitsanweisung geben ›  Persona definieren › „Was ist Prompt Engineering?“ „Gib mir eine Liste gängiger Prompt Engineering Patterns!“ „Du bist ein Prompt Engineering-Experte und hilfst bei AI-Themen.“

Slide 5

Slide 5 text

PROMPTING MAßNAHMEN  Hintergrund erklären ›  Lösungsweg beschreiben ›  Beispiele angeben › „Ich schreibe ein Anfängerbuch über AI. Erkläre mir Prompt Engineering.“ „Erstelle eine Stichwortliste und erkläre dann jeden einzelnen Punkt.“ - „Few-Shot-Learning: Bei dieser Technik …“ - „Chain of Thought: Mit diesem Pattern …“

Slide 6

Slide 6 text

PROMPTING MAßNAHMEN  Stil festlegen ›  Ergebnis beschreiben ›  Anweisungen geben, wenn Ziel nicht erreicht werden kann › „Formuliere so, als würdest du es einem Kind erklären.“ „Gib alles im Markup-Format aus.“ „Wenn Du die Frage nicht beantworten kannst, sag ‚Ich weiß es nicht.‘.“

Slide 7

Slide 7 text

PROMPTING ALLGEMEINE TIPPS  Je mehr Informationen bereitgestellt werden, desto besser die Antwort  Ein Dialog kann mehr als eine einzelne Frage  Beispiele zeigen dem Modell, wie die Antwort aussehen soll  Ein Prompt kann durch einen Meta-Prompt beeinflusst werden  Frage präzise formulieren  Prompt-Optimierung ist ein iterativer Prozess

Slide 8

Slide 8 text

PROMPTING ROLLEN  User  System  Assistant GROUNDING  Grundlegendes Verhalten des Assistenten bestimmen  Hintergrund beschreiben  Beispiele geben

Slide 9

Slide 9 text

GROUNDING POST /v1/chat/completions { "model": "gpt-4o-2024-08-06", "messages": [ { "role": "system", "content": "Du bist Berater. Du beantwortest jede Frage mit 'Kommt drauf an'." }, { "role": "user", "content": "Wieviel Zylinder hat ein V8 Motor?" }, { "role": "assistant", "content": "Kommt drauf an. Es gibt V8-Motoren mit 8 Zylindern, aber auch solche mit 4 oder 6 Zylindern." } ], "temperature": 0.7, "max_tokens": 16000 } System Prompt Antwort User Prompt Sample

Slide 10

Slide 10 text

DEMO System Prompt entwickeln im OpenAI Playground

Slide 11

Slide 11 text

PROMPT ENGINEERING PATTERNS FEW SHOT PROMPTING  Einfacher Prompt mit ein paar Beispielen. CHAIN-OF-THOUGHT  Aufgabe in mehrere, kleine Schritte teilen. CHAINED PROMPTING  Schritt für Schritt vorgehen GENERATED KNOWLEDGE  Prompt um zusätzliche Informationen anreichern. LEAST TO MOST  Wie Chain-of-thought, nur dass die Reihenfolge angegeben wird, in dem die Steps ablaufen SELF-REFINE  Ergebnis hinterfragen und verbessern lassen

Slide 12

Slide 12 text

DEMO Prompt Engineering Patterns

Slide 13

Slide 13 text

GUIDE PATTERN ZIEL  Prompt eine Struktur geben (Goal, User, Instructions, Details, Example) BEISPIEL Ziel: Ein gesundes Wochenendgericht zum Abendessen kreieren. Nutzer: Beschäftigte Eltern auf der Suche nach schnellen, nahrhaften Mahlzeiten. Anweisung: Bitte kreiere ein Rezept für ein 30-minütiges Gericht mit einfachen Zutaten, die die meisten Menschen vorrätig haben. Details: Das Gericht sollte mageres Protein, Gemüse und etwas Vollkorn enthalten. Etwa 500 Kalorien pro Portion und wenig gesättigte Fettsäuren sowie Natrium. Beispiel: Orientiere dich an Rezepten von Webseiten wie Chefkoch oder Einfach Kochen.

Slide 14

Slide 14 text

RETRIEVAL AUGMENTED GENERATION (RAG) BEDEUTUNG  Modell um externe Datenquellen erweitern  domänenspezifisches Wissen integrieren  Dokumente werden in einer Vektordatenbank gespeichert  Prompts werden im Hintergrund um Kontextinformationen erweitert  Vorteil: Modell muss nicht trainiert werden

Slide 15

Slide 15 text

RETRIEVAL AUGMENTED GENERATION Frage eigene Daten abfragen Ergebnisse zum Prompt hinfügen Model abfragen Antwort

Slide 16

Slide 16 text

RETRIEVAL ARGUMENTED GENERATION (RAG) Beantworte die Frage basierend auf dem unten stehenden Kontext. Wenn die Frage nicht mit den bereitgestellten Informationen beantwortet werden kann, antworte mit 'Ich weiß es nicht‘. Kontext: Große Sprachmodelle (LLMs) sind die neuesten Modelle, die in der NLP verwendet werden. Ihre überlegene Leistung gegenüber kleineren Modellen hat sie unglaublich nützlich für Entwickler gemacht. Diese Modelle können über die 'transformers'-Bibliothek von Hugging Face, über OpenAI mit der 'openai'- Bibliothek und über Cohere mit der 'cohere'-Bibliothek abgerufen werden. Frage: Welche Bibliotheken und Modellanbieter bieten LLMs an? Instruktionen Prompt externe Informationen Welche Bibliotheken und Modellanbieter bieten LLMs an?

Slide 17

Slide 17 text

PROMPTING FÄHIGKEITEN  Zusammenfassungen  Information Extraction  Classification  Sentiment Analysis  Recommendations

Slide 18

Slide 18 text

DEMO Sentiment Analysis & Information Extraction

Slide 19

Slide 19 text

PROMPTING AUSGABE STEUERN  Art der Ausgabe über Prompt steuern  Fixes Ausgabeformat festlegen  Neue Formate definieren

Slide 20

Slide 20 text

AUSGABEN FORMATIEREN BEISPIELE › › › Extrahiere aus dem Text die Namen der LLMs, deren Hersteller, sowie die Anzahl der Parameter und gib diese in Form von JSON aus „Gib mir eine tabellarische Zusammenfassung des Textes“ Schreibe einen Blog-Artikel über Generative AI. Schreibe eine Überschrift, einen Teaser, einen Untertitel und einen Absatz. Formatiere alles in Markdown

Slide 21

Slide 21 text

DEMO Structured Output im OpenAI Playground

Slide 22

Slide 22 text

FAZIT  Prompt Engineering ist „das Programmieren“ für AI  Prompting bildet auch die technische Schnittstelle zwischen App und AI  Das Thema hat sehr viele Fassetten  Ein gutes Verständnis der Patterns und Möglichkeiten ist entscheidend

Slide 23

Slide 23 text

Q& A

Slide 24

Slide 24 text

"The electric light did not come from the continuous improvement of candles." Oren Harari, Wirtschaftsprofessor NeoGeeks AI Workshops Generative AI eröffnet viele neue Möglichkeiten in diversen Geschäftsbereichen. Ob als Chat im Kundensupport, als Unterstützung im Vertragsmanagement, dem Texten und Entwerfen von Logos im Marketing oder als Hilfe beim Onboarding neuer Mitarbeiter*innen – das Feld an Möglichkeiten ist vielfältig. Doch auch die Themen Datenschutz und IT-Sicherheit müssen hierbei berücksichtig werden. Wir möchten Euch helfen von den neuen Möglichkeiten zu profitieren! Dazu bieten wir Euch individuelle Workshop an, in denen wir zeigen, wie Ihr AI-Modelle in Eurem Unternehmen sicher betreiben und mit Eurem domänenspezifischen Wissen trainieren könnt. Wir unterstützen Euch beim Finden von sinnvollen Einsatzszenarien, dem Sammeln und Aufbereiten der erforderlichen Daten, bis hin zur Integration in Eure IT- Landschaft. Wir helfen Euer AI-Vorhaben zu realisieren. AI Ideation Workshop • Einordnung des Themas und der Möglichkeiten • Ideenfindung im Kontext des eigenen Geschäfts • Zielgruppe: Entscheider • Dauer: ½ Tag › Die Agenda kann individuell auf Eure Bedürfnisse angepasst werden. › Wir führen die Workshops je nach Bedarf bei Euch im Haus oder remote durch. › Im Anschluss erhaltet ihr neben dem Folienmaterial eine Dokumentation der diskutierten Themen, sowie eine Empfehlung für das weitere Vorgehen. › Die Workshops werden durch Jörg Neumann durchgeführt. Er ist Microsoft MVP für die Bereiche Azure OpenAI Service und Azure Machine Learning Platform und verfügt über langjährige Erfahrung im AI-Umfeld. Kontakt: [email protected] AI Exploration Workshop • Überblick der technischen Möglichkeiten • Entwurf eines Projekts oder PoC • Projektplanung und Setup • Zielgruppe: Architekten • Dauer: 1 Tag AI Developer Training • Technisches Training zu GenAI • Anpassen von Modellen • Entwickeln von AI-Lösungen • Zielgruppe: Entwickler • Dauer: 2 Tage Coaching und Mentoring • Beratung und Projekt- begleitendes Coaching Development Power • Unterstützung für Euer Team • Entwicklung Eurer Lösung