KMS Workshop 2025: Kollege, nicht Killer: Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile

-

Transcript

1. Kollege, nicht Killer: Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile Christian Weyer | Co-Founder & CTO | Thinktecture AG | christian.weyer@thinktecture.com
2. § Technology catalyst § AI-powered solutions § Pragmatic end-to-end architectures § Microsoft Regional Director § Microsoft MVP for AI § Google GDE for Web AI christian.weyer@thinktecture.com https://www.thinktecture.com Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile Christian Weyer Co-Founder & CTO @ Thinktecture AG 2
3. Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile AI ALL-THE-THINGS? 3
4. Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile Generative AI 4 Data Science Artificial Intelligence Machine Learning Unsupervised, supervised, reinforcement learning Deep Learning ANN, CNN, RNN etc. NLP (Natural Language Processing) Generative AI GAN, VAE, Transformers etc. Image / Video Generation GAN, VAE Large Language Models Transformers
5. Language Models understand and generate semantically rich human language, transforming it into text or structured data for both humans and machines. ⚠ Non-deterministic: Same input can lead to different outputs. Embedding Models capture semantic meaning by encoding human language into numerical vector representations, facilitating understanding, comparison, and retrieval for both humans and machines. ✅ Deterministic: Same input always results in the same output. Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile 5 🫱 🫲 Semantic AI Generative AI
6. § LLMs generate text based on input § LLMs can understand text – this changes a lot § Without having to train them on domains or use cases § Prompts are the universal interface (“UI”) → unstructured text with semantics § Human language evolves as a first-class citizen in software solutions 🤯 Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile Large Language Models (LLMs) 6
7. Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile Language-enabled “UIs” 7
8. § Language & embedding models part of end-to-end architectures § E-M enable semantic search & comparison § L-M enable human language understanding via context § System prompt § Conversation history § User query Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile API-based model integrations 8
9. Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile MODELS FOR OUR SOFTWARE 9
10. Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile Classical business applications & UIs 10
11. Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile Language-enabled “UIs” – to the extreme 11
12. Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile TALK TO YOUR DATA 12
13. Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile Retrieval-augmented Generation (RAG) Cleanup & Split Text Embedding Question Text Embedding Save Query Relevant Results Question Answ er w / sources LLM Embedding Model Embedding Model 💡 Indexing / Embedding Question Answering .md, .docx, .pdf etc. “Lorem ipsum…?” 💡 Vector DB 13
14. Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile TALK TO YOUR SYSTEMS 14
15. § Integration is being standardized with MCP Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile Structured data from unstructured input – for calling APIs / tools 15 “OK, when is my colleague CW available for a two- days workshop?” System Prompt (with employee data) + Schema / Function Calling (for structured output) (Internal) Web API Availability business logic
16. Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile AI-BASED DECISIONS 16
17. Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile Semantics-based decisions for user interactions Guarding (e.g. prompt injection) Routing (selecting correct target) “Lorem ipsum…?” Target RAG Target API Call Target … something else … Fine-tuned Language Model Embedding Model 17
18. Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile AI AGENTS 18
19. § (Half-)Autonomous processes solving tasks § Human-in-the-loop essential for validation & approval Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile Agentic AI – potential for disruption (aka “Next big thing”) 19 https://lilianweng.github.io/posts/2023-06-23-agent/
20. § LLMs can be used in an agentic way to support software engineers in their daily life § Ideation § Sparring, pair programming § Understanding, documenting § But: You still need to know how to design, create, build, and debug software § If you are not using GenAI-assisted development tools… you will be left behind Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile Developers evolve with AI Agents 20 https://www.linkedin.com/posts/migueloteropedrido_diary-of-a-vibe-coder-%F0%9D%90%83%F0%9D%90%9A%F0%9D%90%B2-%F0%9D%9F%8F-opened-cursor-activity-7317932234521427970-EtZn
21. § Language and Embedding Models are the technical backbone for enhanced § Use cases § Productivity § Automation § Embrace Gen AI tools § Every day's productivity § IT pro, architect, and developer tasks evolve § 💡 “AI” isn’t taking our jobs – but the people who know how to use Gen AI effectively will § Our jobs are transforming § … and yes, even inside the command line 😇 Kollege, nicht Killer Generative AI macht Sprache zur mächtigsten Schnittstelle seit der Kommandozeile 👉 Conclusion & Call-to-Action 21
22. Thank you! Christian Weyer https://thinktecture.com/christian-weyer christian.weyer@thinktecture.com 22