agents
Sözlük ↗Araç Çağırma
Araç çağırma, bir dil modelinin kodu devreye sokma mekanizmasıdır. Mevcut fonksiyonları ve parametrelerini tanımlarsınız; model düzyazıyla yanıt vermek yerine, bir fonksiyon adı ve argümanlarını içeren yapılandırılmış bir çağrı üretir; uygulamanız bunu çalıştırır ve sonucu modele geri verir. Önemli ayrım şudur: model hiçbir şeyi kendisi çalıştırmaz. O bir niyet üretir, kodunuz bunu yerine getirip getirmeyeceğine karar verir. Yetkilendirme, hız sınırlama ve doğrulama tam da bu sınırda yaşar — iade istemeye ikna edilmiş bir model, iade aracı önce siparişi kontrol ediyorsa zararsızdır. Güvenilirlik modelden çok açıklamalardan gelir. Amacı örtüşen araçlar birbirine karışır, isteğe bağlı parametreler atlanır ve 'veri getirir' diye tanımlanmış bir fonksiyon ya her şey için çağrılır ya hiç çağrılmaz. Araç başına tek iş tanımlayın ve ne zaman kullanılmayacağını da yazın. Prodüksiyonda her çağrıyı argümanları ve sonucuyla loglayın. Modelin pahalı bir aracı her konuşmada üç kez çağırdığını bu log ile fark edersiniz; gelecekteki prompt değişikliklerini de bu veri kümesine karşı değerlendirirsiniz.
İlgili terimler