Semantic Kernel - Intro et exemple de use-case

Transcript

1. Semantic Kernel Introduction et mise en pratique 23/08/2023 Allons plus loin que le « Microsoft AI Skills Challenge »
2. 2 Planning 13h – 14h : Sulan LIU et Paul PETON Utilisation de Prompt Flow pour développer graphiquement des applications intégrant un LLM 14h – 15h : Nicolas ROBERT Introduction à Semantic Kernel : comment tirer parti d'(Azure) OpenAI et aller plus loin dans vos use-cases en le combinant avec d'autres outils 15h – 16h : Alibek JAKUPOV LLaMA 2 : un aperçu du modèle et une démonstration
3. 3 Qui suis-je ? 8 Après une formation d'ingénieur généraliste, j'ai travaillé sur des applications mobiles pendant six ans avant de basculer sur Azure en 2017. J'apporte désormais mon expertise en matière de conception, d'architecture, de développement et de déploiement à mes clients, en me concentrant sur les solutions à base d’IA. Profil couteau suisse, je suis également formateur certifié Microsoft (MCT) et ai été reconnu comme Microsoft Most Valuable Professional (MVP) dans la catégorie "IA" depuis 2019 en raison de ma participation active dans la communauté. Nicolas ROBERT Technical Officer Smart Business & ‘AI’ Microsoft MVP
4. Sommaire 4 Introduction à Semantic Kernel Quelques exemples d’utilisation Analyse du fonctionnement Démo / Mise en pratique 1 2 3 4 Conclusion et liens utiles 5
5. 1 Introduction à Semantic Kernel
6. 6 Définition « Semantic Kernel permet de combiner des fonctions en langage naturel, des fonctions natives de code traditionnel et une mémoire basée sur des embeddings, débloquant ainsi de nouvelles potentialités et ajoutant de la valeur aux applications avec l’IA. » SK prend en charge : - la création de modèles de prompts (« prompt engineering ») - l'enchaînement de fonctions (« function chaining ») - la mémoire vectorisée - les capacités de planification intelligente
7. 7 Fonctionnement
8. 8 Principales fonctionnalités Supported languages for Semantic Kernel | Microsoft Learn AI Services • TextGeneration • TextEmbeddings • ChatCompletion • ImageGeneration AI Services endpoints • OpenAI • Azure OpenAI • Hugging Face Inference API • Hugging Face Local • Custom Tokenizers • GPT2 • GPT3 • tiktoken Core Plugins • TextMemorySkill • ConversationSummarySkill • FileIOSkill • HttpSkill • MathSkill • TextSkill • TimeSkill • WaitSkill Planners • Plan Object Model • BasicPlanner • ActionPlanner • SequentialPlanner • StepwisePlanner Connectors • Azure Cognitive Search • Chroma • DuckDB • Milvus • Pinecone • Postgres • Qdrant • Redis • Sqlite • Weaviate Plugins • MS Graph • Document and data loading plugins (i.e. pdf, csv, docx, pptx) • OpenAPI • Web search plugins (i.e. Bing, Google) • Text chunkers
9. 2 Quelques exemples d’utilisation
10. 10 Exemple 1 – Chat Summary App https://github.com/microsoft/semantic-kernel/tree/main/samples/apps/chat-summary-webapp-react
11. 11 Exemple 2 – Book Creator Sample App https://github.com/microsoft/semantic-kernel/tree/main/samples/apps/book-creator-webapp-react
12. 3 Analyse du fonctionnement
13. 13 Exemples avec les notebooks C# • Disponibles sur le repository officiel : https://github.com/microsoft/semantic- kernel/blob/main/dotnet/notebooks/README.md
14. Live démo
17. 4 Démo / Mise en pratique
18. 18 Démo – Chat Copilot Sample Application • microsoft/chat-copilot (github.com)
19. 19 Démo – Chat Copilot Sample Application • Etapes de mise en place réalisées en amont : ▪ Clonage du repository ▪ Installation des dépendances via ps1 (Chocolatey, dotnet-7.0-sdk, nodejs, and yarn) ▪ Configuration des paramètres • Service OpenAI : endpoint, clé + noms des déploiements pour Embedings, Completion et Planner • Informations d’authentification (optionnelles) ▪ Démarrage
20. 20 Exemple du webchat de base
21. 21 Premières requêtes
22. 22 Mise à disposition de plugins
23. 23 Possibilité d’ajouter son propre plugin
24. Live démo
25. 25 Mise en place de l’authentification • Déclaration de 2 applications Azure AD : Frontend + Backend ▪ Exposition d’une API par le backend ▪ Permission d’utilisation de l’API par l’app frontend
26. 26 Mise en place de l’authentification • Déclaration de 2 applications Azure AD : Frontend
27. 27 Authentification – 1er lancement
28. 28 Authentification – 1er lancement
29. 29 Authentification en place
30. 30 Activation du plugin Microsoft Graph
31. 31 Activation du plugin Microsoft Graph
32. 32 Prompt générant une planification
33. 33 Proposition de planification
34. 34 Autre exemple d’utilisation de Graph
35. 35 Détail des planifications
36. 36 Informations d’usage de tokens
37. 5 Conclusion et liens utiles
38. 40 Conclusion • Semantic Kernel est un orchestrateur qui permet de combiner les capacités des services AI avec de la programmation traditionnelle ▪ Alternative intéressante à LangChain ▪ Utilisable par des développeurs .Net mais aussi Python (et Java) • Projet Open source, évoluant rapidement ▪ De nombreux exemples sont disponibles • En espérant vous avoir donné envie d’essayer un peu plus !
39. 41 Liens utiles • Microsoft Learn documentation : ▪ Racine : Orchestrate your AI with Semantic Kernel | Microsoft Learn ▪ Samples apps : List of all sample apps | Microsoft Learn ▪ AI Plugins : Understanding AI plugins in Semantic Kernel and beyond | Microsoft Learn • Repository GitHub : ▪ Projet : https://aka.ms/skrepo ▪ Chat Copilot : microsoft/chat-copilot (github.com) ▪ Starters (Console, Azure Function, etc.) : microsoft/semantic-kernel-starters: Starter Projects for Semantic Kernel (github.com)
40. Merci !
41. Paris | Lyon | Nantes cellenza.com Rejoignez-nous sur :