Yapay Zekâ Ajanı Nedir? Ve Gerçekten Ne Zaman Gerekir

Tek cümlelik tanım

Yapay zekâ ajanı, sonraki eylemini kendisinin seçtiği bir döngüye yerleştirilmiş bir dil modelidir. Ona bir hedef ve bir araç kümesi verirsiniz — web'de arama yapmak, veritabanını sorgulamak, istek göndermek, dosya okumak — o hangi aracı kullanacağına karar verir, sonucu görür ve yeniden karar verir; hedefi karşılandığına kanaat getirene ya da bir sınır onu durdurana dek sürdürür. Sıradan yapay zekâ kullanımından farkı zekâ değil denetim akışıdır: normal bir özellikte adımlara siz karar verirsiniz, ajanda model karar verir.

Döngü gerçekte neye benziyor

Mekanik olarak gösterişsizdir. Kodunuz modele hedefi, o ana kadarki konuşmayı ve kullanılabilir araçların açıklamasını gönderir. Model ya nihai bir cevapla ya da bir aracı belirli argümanlarla çağırma isteğiyle yanıt verir. Kodunuz o çağrıyı yürütür, sonucu konuşmaya ekler ve geri gönderir. Tekrar. İnsanların ajansal dediği her şey — planlama, yansıtma, kendini düzeltme, çok ajanlı devretme — o döngüye ne koyduğunuzun ve modelin neyi çağırmasına izin verdiğinizin bir çeşitlemesidir.

Neden bütün problem döngüdedir

Denetimi modele vermek esneklik kazandırır, öngörülebilirliğe mal olur. Beş adımlı betikli bir hat beş adım çalışır. Aynı araçlara sahip bir ajan üç adım da atabilir kırk da, on sent de tutabilir dokuz dolar da, iki saniye de sürebilir dört dakika da — aynı girdide, iki farklı günde. Ayrıca döngüye girebilir: birbirine kibarca yol veren iki ajan ya da yeniden denemek makul göründüğü için başarısız bir çağrıyı sonsuza dek yineleyen tek bir ajan. Her ciddi ajan uygulamasının adım, token, süre ve harcama üzerinde katı üst sınırları olmasının ve bu sınırların isteğe bağlı bir cila olmamasının nedeni budur.

Ajanların gerçekten hakkını verdiği yerler

Ajanlar, adımların sayısı ve sırası önceden bilinemediğinde karşılığını verir. Sonraki sorunun son cevaba bağlı olduğu bir destek talebini soruşturmak. Hangi kaynakların önemli olacağını önceden söyleyemediğiniz bir konuyu araştırmak. Düzeltmenin yerinin bilinmediği bir kod tabanında çalışmak. Bunların her birinde bir betiğin her olasılık için bir dalı olması gerekirdi ve bunları saymak, karara modelin varmasına izin vermekten daha zordur.

Yanlış araç olduğu yerler

Adımları yazabiliyorsanız yazın. Bir faturadan alan çıkaran, doğrulayan ve bir satır yazan bir hat daha ucuz, daha hızlı, test edilebilir, hata ayıklanabilir ve her çalıştırmada aynıdır. Bunu bir ajanın içine sarmak maliyet ve değişkenlik ekler, ne olduğu üzerine akıl yürütme yeteneğinizi alır. Bu alandaki en yaygın pahalı hata, ortasında tek bir model çağrısı olan belirlenimci bir hattın daha iyi yapacağı işi yapan bir ajandır.

Üretimde ters giden şeyler

Üç hata yinelenir. Bağlam büyümesi: her araç sonucu eklenir, dolayısıyla uzun bir çalışma her adımda yavaşlar ve pahalılaşır; önemli erken talimatlar ise modellerin en az dikkat ettiği pencerenin ortasına doğru kayar. Birikimli hata: yanlış bir adım düzeltilmez, üzerine inşa edilir. Ve sessiz araç arızası: bir API boş sonuç döndürür, model yokluğu bir cevap sayar ve kendinden emin ve yanlış bir şey bildirir. Üçü de gözlemlenebilirliğin — her adımı, her araç çağrısını, her sonucu kaydetmenin — en son değil ilk kurulacak şey olmasının nedenidir.

İhtiyacınız olup olmadığına karar vermek

İki soru bunu çözer. Adımları sayabiliyor musunuz? Evetse bir hat kurun. Hayırsa, değişken sayıda model çağrısına, değişken bir faturaya ve değişken bir cevaba tahammülünüz var mı? Bu da hayırsa, dürüst sonuç problemin bir ajan için hazır olmadığıdır ve adımlar sayılabilir hale gelene dek kapsamı daraltmak daha ucuz yoldur.

Makul bir başlangıç noktası

Çalışabilecek en küçük ajanla başlayın: tek model, üç ya da dört araç, katı bir adım sınırı, tam kayıt ve bir şeye etki etmeden önce çıktıyı inceleyen bir insan. Özerkliği yalnızca kayıtların gerektiğini gösterdiği yerde ekleyin. Diğer uçtan başlayan neredeyse her ekip — çok ajan, çok araç, sınır yok — ilk ayını yetenek eklemek değil çıkarmak için harcar.