Logprob'lar (Log Olasılıkları)

Logprob'lar (log olasılıkları), bir modelin metin üretirken değerlendirdiği her token'a atadığı log-olasılıklardır — esasen, modelin her kelimeyi ne kadar olası gördüğüdür. Birçok LLM API'si bunları çıktının yanında döndürebilir ve bunlar, yalnızca görünür metnin veremediği, modelin içsel güvenine açılan pratik bir penceredir. Geliştiriciler logprob'ları gerçek işler için kullanır: modelin bir cevaptan ne kadar emin olduğunu tahmin etmek, serbest metni ayrıştırmak yerine aday etiketlerin olasılıklarını karşılaştırarak sınıflandırıcı kurmak ve düşük güvenli üretimleri inceleme ya da bir yedek yola işaretlemek. Modelin kendi olasılık tahminlerini yansıttıkları için, çoğu zaman modele "ne kadar eminsin?" diye sormaktan daha iyi bir güven sinyalidir. Pratik not: kullanılabilirlik ve biçim sağlayıcıya göre değişir, bu yüzden etrafında tasarım yapmadan önce modelinizin logprob'ları sunup sunmadığını kontrol edin. Ve unutmayın: token olasılıkları modelin güvenini ölçer, doğruluğu değil — bir model yüksek güvenle yanlış olabilir; bu yüzden logprob'ları doğruluğun garantisi olarak değil, bir kararın girdilerinden yalnızca biri olarak kullanın.