[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"glossary-inference-latency::tr":3,"gloss-cluster-inference-latency::tr":23,"gloss-next-inference-latency::tr":9},{"slug":4,"category":5,"name":6,"definition":7,"meta_desc":8,"faq":9,"schema_markup":9,"related":10},"inference-latency","core-ai","Çıkarım Gecikmesi","Çıkarım gecikmesi, bir modelin yanıt vermesinin ne kadar sürdüğüdür ve tek değil iki sayıdır. İlk token süresi, hiçbir şey görünmeden önceki bekleyiştir; saniyedeki token olarak verim ise geri kalanın ne hızla geldiğidir. Kullanıcı bunları farklı deneyimler, yanlış olanı iyileştirmek emek israfıdır.\n\nSohbet arayüzünde algıyı ilk token süresi belirler. 300 ms'de başlayıp dört saniye akan bir yanıt, iki saniyede bütün hâlinde beliren yanıttan daha hızlı hissettirir — bu yüzden akış teknik bir ayrıntı değil, ürün özelliğidir. Kimsenin izlemediği toplu işlerde yalnızca toplam süre önemlidir.\n\nEn büyük katkı genelde modelden gelmez. Prompt uzunluğu ön doldurma süresini belirler; 4.000 token'a şişmiş bir sistem promptu her isteği vergilendirir. Getirme ve araç çağrıları gidiş-dönüş ekler. Üç model çağrısından oluşan bir zincirin üç soğuk başlangıcı vardır. Zor istekler için daha büyük model seçen bir yönlendirici ise gecikmeyi tam da kullanıcının en sabırsız olduğu isteklerde kaliteye takas eder.\n\nOrtalamayı değil p95'i ölçün: ortalama kuyruğu gizler, akılda kalan ise kuyruktur.","Çıkarım gecikmesi iki sayıdır: ilk token süresi ürünün canlı hissettirmesini, saniyedeki token ise işin ne kadar süreceğini belirler.",null,[11,14,17,20],{"slug":12,"name":13},"cost-per-task","Görev Başına Maliyet",{"slug":15,"name":16},"latency","Gecikme (Latency)",{"slug":18,"name":19},"llm","Büyük Dil Modeli (LLM)",{"slug":21,"name":22},"semantic-cache","Anlamsal Önbellek",[24,28,32,36,39,42,45,48,51,54,57,60],{"slug":25,"category":5,"name":26,"updated_at":27},"agentic","Agentic AI (Ajan Tabanlı Yapay Zeka)","2026-08-24T02:46:36+00:00",{"slug":29,"category":5,"name":30,"updated_at":31},"alignment-tax","Hizalama Vergisi (Alignment Tax)","2026-08-24T02:46:37+00:00",{"slug":33,"category":5,"name":34,"updated_at":35},"artificial-intelligence","Yapay Zekâ (AI)","2026-08-24T02:46:38+00:00",{"slug":37,"category":5,"name":38,"updated_at":27},"attention","Attention (Dikkat Mekanizması)",{"slug":40,"category":5,"name":41,"updated_at":35},"beam-search","Işın Arama (Beam Search)",{"slug":43,"category":5,"name":44,"updated_at":31},"benchmark-contamination","Kıyaslama Kirlenmesi (Benchmark Contamination)",{"slug":46,"category":5,"name":47,"updated_at":31},"catastrophic-forgetting","Felaketvari Unutma (Catastrophic Forgetting)",{"slug":49,"category":5,"name":50,"updated_at":35},"computer-vision","Bilgisayarlı Görü",{"slug":52,"category":5,"name":53,"updated_at":31},"constitutional-ai","Anayasal Yapay Zekâ (Constitutional AI)",{"slug":55,"category":5,"name":56,"updated_at":27},"context-window","Bağlam Penceresi (Context Window)",{"slug":58,"category":5,"name":59,"updated_at":35},"deep-learning","Derin Öğrenme",{"slug":61,"category":5,"name":62,"updated_at":27},"diffusion-model","Difüzyon Modeli (Diffusion Model)"]