prompt-eng
Sözlük ↗Yapılandırılmış Çıktı
Yapılandırılmış çıktı, üretimi geliştirici tarafından sağlanan bir şemaya -en yaygın olarak JSON Şemasına- uygun olacak şekilde kısıtlayan bir LLM API özelliğidir; yalnızca sözdizimsel olarak geçerli çıktıyı değil (temel JSON modunda olduğu gibi), aynı zamanda tam alan adları, türler, gerekli alanlar, enumlar ve iç içe geçme yapısıyla eşleşen bir çıktıyı garanti eder. Genellikle kaputun altında kısıtlanmış çözümleme (constrained decoding) aracılığıyla (modelin token üretim süreci her adımda yalnızca çıktıyı şemaya uygun tutan tokenlerle sınırlandırılır) veya araç çağırma/fonksiyon çağırmayı destekleyen aynı mekanizma aracılığıyla uygulanır; burada çağrılan "araç" aslında yürütülebilir gerçek bir fonksiyon değil, istenen yanıt şeklinin bir şema tanımıdır. Anthropic, OpenAI ve Google'ın hepsi bunun bir biçimini sunar (Claude ve OpenAI, katı mod ile araç kullanımı/fonksiyon çağırma tabanlı yapılandırılmış çıktı üzerinden; Gemini, responseSchema üzerinden), ve bu, üretim LLM uygulamaları için en önemli güvenilirlik ilkellerinden biri haline gelmiştir çünkü uygulama tarafında doğrulama-ve-yeniden-deneme mantığı gerektirmek yerine bütün bir entegrasyon hatası kategorisini API katmanında ortadan kaldırır. SaaS geliştiricileri için yapılandırılmış çıktı, "yapay zeka özelliği zamanın %97'sinde çalışıyor ve diğer %3'ü için bir yedek yol gerekiyor" ile "yapay zeka özelliği her seferinde şemaya uygunluğu garanti ediyor" arasındaki farktır -bu, bir veritabanına yazan, türlü bir UI bileşenini dolduran veya alt akışta otomatikleştirilmiş bir hattı besleyen (Make.com veya Zapier gibi kodsuz/az-kodlu iş akışı otomasyon araçlarının etrafında inşa edildiği türden) her şey için son derece önemlidir. Tasarım hususları arasında şemaları makul ölçüde basit tutmak (derin iç içe geçmiş veya çok büyük şemalar, kısıtlanmış çözümleme altında bile model çıktı kalitesini düşürebilir), bir alanın bilinen sonlu bir değer kümesi olduğu her yerde enum kullanmak (serbest metin alanlarına göre tutarlılığı çarpıcı şekilde artırır) ve her şema alanına bir açıklama eklemek yer alır, çünkü sağlayıcılar genellikle modelin oraya ne koyması gerektiğini yönlendirmek için bu açıklamaları kullanır -şemanın kendisi etkili promptun bir parçası haline gelir. Somut örnek: bir potansiyel müşteri değerlendirme SaaS aracı, yapay zeka çağrı özeti özelliği için şu şemayı tanımlar: {"lead_score": integer (1-100), "next_action": enum["schedule_demo", "send_pricing", "nurture", "disqualify"], "key_objections": array of strings, "summary": string (max 200 chars)}. Bu şemayla kısıtlanmış uç noktadan işlenen her çağrı dökümü, CRM'in sıfır ayrıştırma mantığıyla ve geçersiz bir next_action değerinin satış hattına ulaşma riski sıfır olacak şekilde doğrudan türlü veritabanı sütunlarına ekleyebileceği bir yanıt döndürür -enum kısıtlaması, kelime dağarcığı dışı bir değeri yalnızca olası kılmaz, yapısal olarak imkansız hale getirir.
İlgili terimler