Şampiyon-Meydan Okuyan (A/B Model Testi)

Şampiyon-meydan okuyan, canlı bir model test desenidir: mevcut üretim modeli, yani şampiyon, trafiğin büyük kısmını sunmaya devam ederken bir veya daha fazla aday model, yani meydan okuyanlar, kontrollü bir dilim alır. Bunları gerçek sonuçlar üzerinden karşılaştırırsınız — dönüşüm, çözüm oranı, gelir, şikâyetler — ve bir meydan okuyanı yalnızca mevcut modeli ikna edici biçimde geçtiğinde terfi ettirirsiniz. Bu, buton renklerine değil modellere uygulanan A/B testidir. Var olma nedeni şudur: sabit bir veri kümesi üzerindeki çevrimdışı değerlendirme, bir modelin dağınık canlı trafik karşısında nasıl davranacağını asla tam olarak öngöremez. Şampiyon-meydan okuyan, gerçek koşullarda gerçek iş etkisini ölçer. Yapay zekâ SaaS'ında bu çoğu zaman iki istemi ya da iki model katmanını yan yana çalıştırıp hangisinin daha fazla destek talebini çözdüğünü izlemek demektir. Pratik not: asla gerilememesi gereken tek bir güvence metriği seçin, kazananı ilan etmeden önce istatistiksel anlamlılığı bekleyin ve bir meydan okuyan güvenli olduğunu kanıtlayana dek trafik dilimini küçük tutun.

İlgili terimler

Daha fazla MLOps Süreçleri terimi