Geliştiricinin Gözünden Üretken Yapay Zekanın Derinlikleri

Transcript

1. Mert Metin Senior Software Engineer @Sompo Teknoloji Geliştiricinin Gözünden Üretken Yapay Zekanın Derinlikleri Blogcu Mühendis mertmtn.blogspot.com in/mrtmtn
2. Hello World to Hello AI
3. Yanılgı İnsanlar genelde hızlıca bir prompt yazıp modeli çalıştırıyor ve sonucu beklemeye geçiyor. Fakat çoğu zaman elde edilen çıktı, beklentilerden oldukça uzak oluyor. Zihinde canlanan o kusursuz ve büyüleyici sahnenin, gerçekte o kadar da mükemmel olmadığı ortaya çıkıyor. AI zaten her şeyi yapar, yapmam gereken tek şey ona ne istediğimi söylemektir.
4. Yanılgı Yapay zeka, işimizi elimizden alacak! Doğru kullanıldığında bize fırsatlar yaratabileceği, süreçlere yardımcı olabilecektir.
5. Yanılgı Sonuçta, süreç tamamen mühendislikten ibarettir. Üretken yapay zeka modelleri ne kadar güçlü olursa olsun, doğru stratejiyle kurgulamak ve yönetmek önemlidir. AI bunu da yapar, baksana başarılı çalışıyor!
6. Generative AI Girilen istem ve öğrenilmiş veriler baz alınarak yeni bir içerik üretilmesini sağlayan yapay zeka türüdür. Bu içerikler metinsel, işitsel, görsel, programlama diliyle oluşturulan kodsal formatta olabilir.
7. Prompt Yapay zeka modellerinden istenen cevabı alabilmek amacıyla kullanılan yönlendirici girdilerdir. Etkili promptlar oluşturabilme tekniğine de prompt engineering denir. İyi bir prompt; Anlaşılır, hedefe yönelik, bağlamsal bilgi içermeli, ihtiyaç duyulduğunda iteratif olarak genişletilebilmelidir.
8. AI Platform and Services Piyasada bir çok platform ve hizmet yer almaktadır. İster bulut ister local ortamdaki bu araçları kullanabilirsiniz.
9. Large Language Model Büyük verilerle öğrenir, dilin bağlamını ve anlamsal çıkarımını kavrayarak, insan benzeri çıktı üreten modellerdir. Karmaşık görevler için geliştirilmiş derin öğrenme modelidir.
10. System Modelin nasıl davranması gerektiğini belirtir. Roller User Kullanıcı mesajını temsil eder. Asistant AI’ın verdiği cevabı temsil eder. LLM, Agent gibi yapılara bağlam, sınır ve davranış biçimi kazandırarak daha kontrollü, etkili ve güvenli çıktıların alınmasını sağlar.
11. Token Metnin parçalara ayrılmasından sonra LLM'lerin işleyebildiği anlamlı birimidir. tokenized by gpt-4o
12. Yapay zeka modelinin kendinden emin bir şekilde gerçek olmayan, yanlış veya uydurma bilgiler üretmesi durumudur. Bu durum, eğitim verilerindeki eksiklikler, bağlamı yanlış yorumlaması veya algoritmik sınırlamalardan kaynaklanır. Halisünasyon
13. Tool Calling Modele bağlam, sınır ve davranış biçimi kazandırarak daha kontrollü, etkili ve güvenli çıktıların alınmasını sağlar. LLM’e birden fazla araç verebilirsiniz. Model hangilerini kullanacağına kendisi karar verir. Yapay zeka modellerinin dış veri kaynakları, API'ler ile etkileşime geçerek işlevselliğini artırma yeteneğidir.
15. Yanıtların alaka düzeyini ve doğruluğunu artırır. Harici veri kaynaklarıyla (veritabanları, belgeler, API'ler) LLM'leri geliştirir. Retrieval Augmented Generation (RAG)
16. Vektör: Metin, görsel gibi veri tiplerinin sayısal temsilidir. Bu veriler, benzerlik ölçümünün (cosinüs benzerliği) yapılabilmesi için vektör veri tabanlarında tutulur. Embedding - Vector Embedding: Metin, görsel gibi verilerin, makinelerin anlayabileceği şekilde vektörlere dönüştürülmesidir. Dönüştürülen veriler, vektör veri tabanlarına aktarılır.
18. Model Context Protocol Farklı AI modellerinin, dış dünya (dosya okuma, bilgi çıkarma, internetten veri çekme) iletişime geçebilmek için kullandığı ortak bir standart Elimizde harici veri kaynakları gibi araçlar var, sayısı model var. Her eşleşme için ayrı bir çaba gerektiriyor. İnanılmaz bir karmaşa, yönetilmesi zor. MXN problemi M-model, N-araç
19. https://diamantai.substack.com/p/model-context-protocol-mcp-explained
20. Bilgiye ihtiyaç duyuyorsanız RAG, işlem yapmanız gerekiyorsa Tool, bu entegrasyonları standart ve kolay bir şekilde yönetmek istiyorsanız MCP kullanmalısınız.
21. Agents Algılama, akıl yürütme, planlama ve çevresiyle etkileşim kurma yeteneğine sahip olan ve görevleri otonom olarak gerçekleştirmeye yarayan AI bileşenidir. Çıktı üretirken, Generative AI tekniklerini kullanır. Genel amaçlı kullanılabilir.
22. Çalışma Mantığı: Think → Decide → Act Tool seçimine ve çalışma planına karar verir. Promptlardan, yönergelerden düşünür. API çağrımı yapar, RAG kullanır veya diğer agentleri çalıştırır.
25. Geleneksel sohbet tabanlı yapay zekanın ulaşabileceği en yüksek noktadır.
26. Model hangi tool kullanacağına karar veriyor. Alacağı aksiyonu seçiyor.
28. AI Orchestration, bir hedefe ulaşmak için birden fazla agentin yönetildiği süreçtir. Ölçeklenebilirlik, yönetilebilirlik, modülerlik, optimizasyon sağlar.
29. Multi Agent Orchestration Patterns Sequential Concurrent
30. Group Chat Handoff Multi Agent Orchestration Patterns
31. Multi Agent Orchestration Patterns Magentic
32. Veri sızıntısı: Kişisel bilgilerin veya hassas bilgilerin kontrolsüz bir şekilde LLM’e yüklenmesi - Kontrolsüz veri çıkışı Güvenlik Shadow AI: Bilgi güvenliği veya yönetim onayı olmadan çalışanların kullandığı AI araçları Prompt Injection: Saldırgan, LLM’in yeteneğini manipüle edebilecek kötü amaçlı girdiler oluşturur. LLM’in çalışma yönergesine aykırı hareket etmesine sebep olacaktır.
33. http://genai.owasp.org/llm-top-10/
34. Frameworkler
35. IDE - Geliştirme Ortamları
36. Teşekkürler Blogcu Mühendis mertmtn.blogspot.com in/mrtmtn