Prompt (İstem)

Prompt (istem), bir LLM'e bir yanıt üretmesi için verilen eksiksiz girdidir — tek bir soru kadar basit veya bir sistem istemini (kalıcı davranışsal talimatlar), birkaç örnekli (few-shot) örnekleri (istenen biçimi gösteren örnek girdi/çıktı çiftleri), geri getirilen bağlamı (bir RAG hattından) ve kullanıcının gerçek sorusunu birleştiren çok parçalı bir talimat kümesi kadar ayrıntılı olabilir. Prompt'lar, SaaS geliştiricilerinin model ağırlıklarına dokunmadan LLM davranışını kontrol etmek için kullandığı birincil arayüzdür; bu da prompt tasarımını (genellikle prompt mühendisliği olarak adlandırılır) yapay zeka özellikleri oluşturmada en yüksek kaldıraçlı becerilerden biri yapar — iyi yapılandırılmış bir prompt, jenerik bir modeli tam kullanım durumunuz için güvenilir, dar kapsamlı bir araca dönüştürebilir. İyi bir prompt'un temel kaldıraçları: istenen çıktı biçimi hakkında açık olmak (düz metin mi, JSON mu, markdown mu), modelin ihtiyaç duyduğu ama sahip olmadığı alakalı bağlamı sağlamak (ürününüzün özel terminolojisi, bir kullanıcının hesap verisi, geri getirilen dokümanlar), kısıtlamalar belirtmek (uzunluk sınırları, ton, NE yapılmaması gerektiği) ve — karmaşık görevler için — modele yanıt vermeden önce akıl yürütme alanı vermek (chain-of-thought). Somut bir örnek: "Fiyatlandırmamız hakkında yaz" gibi belirsiz bir prompt, jenerik, öngörülemez bir çıktı üretecektir. Aynı görev için iyi tasarlanmış bir prompt şöyle görünür: `"Bir proje yönetimi SaaS'ı için bir fiyatlandırma sayfası metin yazarısınız. Free ile Pro arasında karar veren serbest çalışanlara yönelik Pro planımızın (29$/ay, sınırsız proje, öncelikli destek, API erişimi) 3 cümlelik bir özetini yazın. Ton: kendinden emin, 'devrimsel' veya 'oyun değiştirici' gibi abartılı kelimeler yok. Yalnızca düz metin çıktısı verin."` — bu, kitle, biçim, içerik ve ton konusundaki belirsizliği ortadan kaldırdığı için tutarlı bir şekilde kullanılabilir, markaya uygun metin üretir. Üretim sistemlerinde prompt'lar genellikle şablonlaştırılır (istek anında `{{user_name}}`, `{{account_tier}}` gibi değişkenler enterpole edilir), sürüm kontrolüne tabi tutulur ve diğer herhangi bir ürün yüzeyi gibi A/B testine tabi tutulur; çünkü küçük ifade değişiklikleri çıktı kalitesini, biçim uyumluluğunu ve hatta halüsinasyon oranlarını anlamlı şekilde değiştirebilir. Prompt yapısı kuralları sektör genelinde oldukça standartlaşmıştır: bir sistem istemi kalıcı davranışı ve kısıtlamaları belirler (rol, ton, çıktı biçimi, neyin reddedileceği); kullanıcı ve asistan mesajları gerçek konuşmayı taşır; ve giderek daha fazla, özel bir "araç" veya "fonksiyon" mesaj rolü, fonksiyon çağrılarının sonuçlarını modele geri taşır. Geliştiriciler ayrıca prompt'ları tek kullanımlık dizeler yerine sürümlenmiş, test edilmiş eserler olarak ele almalıdır — küçük bir ifade değişikliği ("özetle" ile "2 cümlede kısaca özetle") çıktı uzunluğunu, biçim uyumluluğunu ve hatta gerçek doğruluğu ölçülebilir şekilde değiştirebilir; bu yüzden olgun yapay zeka ürünleri, değişiklik geçmişiyle bir prompt kütüphanesi tutar ve bir prompt değişikliğini üretime dağıtmadan önce regresyon değerlendirmeleri çalıştırır.