Upgrade to Pro — share decks privately, control downloads, hide ads and more …

GPT-Modelle im Business-Einsatz

GPT-Modelle im Business-Einsatz

Jörg Neumann

December 07, 2023
Tweet

More Decks by Jörg Neumann

Other Decks in Technology

Transcript

  1. GPT-MODELLE
    IM BUSINESS-EINSATZ
    JÖRG NEUMANN

    View full-size slide

  2. THEMEN
     AI
     Frontend Technologies
     Mobile Development
     Consulting, Coaching, Training
    KONTAKT
     Mail: [email protected]
     Twitter: @JoergNeumann
    JÖRG NEUMANN

    View full-size slide

  3. ANPASSUNGSMÖGLICHKEITEN
    FEW-SHOT LEARNING
     Das Modell wird über Anweisungen und Beispielen im Prompt angepasst
    FINE TUNING
     Das Modell wird mit eigenen Daten nachtrainiert
    SEMANTIC SEARCH
     Es werden mit Hilfe von Embeddings und einer Vector-Datenbank in eigenen
    Dokumenten gesucht bzw. Fragen beantwortet
    FUNCTION CALLS
     Externe Funktionen und Tools werden dem LLM zur Verfügung gestellt

    View full-size slide

  4. Frage
    System
    Message
    Antwort
    Chat
    FEW-SHOT LEARNING
    GPT-
    Basismodell
    Schreibe alle Anforderungen in Epics die
    einen Titel, eine Beschreibung und eine
    Userstory beinhalten. Hier sind Beispiele an
    den du dich orientieren kannst:
    Beispiel 1
    Beispiel 2
    Beispiel 3
    Beispiel 4

    View full-size slide

  5. import openai
    openai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    messages=[
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Who won the world series in 2020?"},
    {"role": "assistant", "content": "The Los Angeles Dodgers won the …"},
    {"role": "user", "content": "Where was it played?"}
    ]
    )
    Frage
    System
    Message
    Antwort
    Antwort-
    ergänzung
    Chat
    CUSTOM PRE-PROMPTING
    GPT-
    Basismodell

    View full-size slide

  6. DEMO
    FEW-SHOT LEARNING

    View full-size slide

  7. FINE TUNING
    Frage /
    Antwort
    Frage /
    Antwort
    Frage /
    Antwort
    Getuntes
    Basismodell
    Frage /
    Antwort
    JSONL
    Datei
    Chat
    OpenAI
    API

    View full-size slide

  8. DEMO
    FINE TUNING

    View full-size slide

  9. SEMANTIC SEARCH
    Chunk
    Chunk Chunk
    Chunk
    Embeddings
    Embeddings Embeddings
    Embeddings
    Vektor
    Datenbank
    PDF
    Dokumente
    Benutzer-
    suche
    Embeddings
    Search
    Antwort
    LLM
    Ergebnisse
    gewichten

    View full-size slide

  10. DEMO
    SEMANTIC SEARCH

    View full-size slide

  11. Frage
    Funktion +
    Frage
    Antwort
    Ist Antwort
    Function Call?
    Chat
    FUNCTION CALLS
    GPT-
    Basismodell
    Funktion
    Frage +
    Ergebnis

    View full-size slide

  12. DEMO
    FUNCTION CALLS

    View full-size slide

  13. MICROSOFT COPILOTS

    View full-size slide

  14. BUSINESS SZENARIEN
    HR
     Onboarding Buddy
     Unterstützt neue Mitarbeiter per Chat
     Wird mit Dokumenten des Unternehmens trainiert
     Integration in Teams, inkl. Input Dialogen
    SERVICE
     Chat für technische Dokumentation
     Abfrage von Datenbank mit natürlicher Sprache
     Automatisierung von Callcenter-Prozessen

    View full-size slide

  15. BUSINESS SZENARIEN
    MARKETING
     Werbetexte und Bilder generieren
     Automatisch Hashtags erzeugen
    DOKUMENTEN-GENERIERUNG
     Erstellung von Standarddokumenten
    (Arbeitsverträgen, Arbeitsbescheinigung, Elternzeit, …)
     Entwicklung von Trainingsunterlagen und techn. Dokumentation
     Generierung wiederkehrender Mails

    View full-size slide

  16. USE CASES FÜR EMBEDDINGS
    SEARCH
     Finden und Ranken von Infos
    CLUSTERING
     Gruppieren von Ähnlichkeiten
    RECOMMENDATIONS
     Empfehlungen für ähnliche Artikel
    ANOMALY DETECTION
     Abweichungen erkennen
    CLASSIFICATION
     Klassifizieren von Texten

    View full-size slide

  17. FAZIT
     Chats können mit Few-Shot Learning angepasst werden
     Komplexe Dialoge sind mit Function Calls möglich
     Trainieren der Modelle mit eigenen Daten über Fine Tuning möglich
     Semantische Suche mit Hilfe von Embeddings möglich
     Viele neue Möglichkeiten fürs Business

    View full-size slide