LLM Çağında Backend Olmak: 10 Milyon Prompt'u Milisaniyede Sorgulamak

GDG Devfest 2025 İstanbul etkinliğinde gerçekleştirilen sunumdur. Sunumdaki demoların kaynak kodlarına adresinden ulaşılabilir.

Transcript

1. LLM ÇAĞINDA BACKEND OLMAK: 10 MİLYON PROMPT'U MİLİSANİYEDE SORGULAMAK HEAD OF ENGINEERING
2. SCHEMA-LESS DESIGN FIRST
3. DESIGN FIRST Uygulamamda veriye hangi yöntemlerle erişeceğim? Veriyi gösterme yöntemim ne olacak? Veri setimdeki verinin çeşitliliği (cardinality) hangi alanlarda, ne kadar farklılık yaratacak? Tüm verimin hangi alanlarına, ne sıklıkla erişeceğim? Sık erişilen verilerimin tahmini boyutu nedir? Veritabanımı konumlandıracağım sunucuların kaynakları (özellikle disk ve memory - RAM) nedir?
4. WIREDTIGER STORAGE ENGINE (RAM - 1) * 0,50 ya da 256 MB WORKING SET * en sık ulaşılan veriler + tüm index dokümanları
5. Polymorphic Attribute Tree and Graph Prealocated Hypercube Outlier Computed Subset DESIGN PATTERNS "Veriyi nasıl kaydedeceğine değil, nasıl okuyacağına göre tasarla."
6. MİKRO DEMO & ÖĞRETİLER Depolama: Milyonlarca "0" saklamak (RDBMS) ➔ Sadece veriyi saklamak (Document Model) Güvenlik: Kilitlenme korkusu ➔ High Concurrency & Atomik $inc Garantisi Hız: Sorgu anında hesaplama (Yavaş) ➔ Yazma anında hesaplama (Anlık Yanıt)
7. INDEX & SORGU PERFORMANSI Equality + Sort + Range Indexing Low Cardinality ➔ High C. RAM Only. No Disk I/O
8. DEMO > use prompt_market > db.prompts.find({ . . . }) Processing . . . Error: Timeout (4.2s)
9. TEŞEKKÜRLER!