Aşırı Öğrenme (Overfitting)

Aşırı öğrenme, bir modelin eğitim verisini fazla birebir öğrenmesi — genel örüntü yerine verinin gürültüsünü ve tuhaflıklarını ezberlemesi — sonucunda eğitimde iyi puan alırken yeni, görülmemiş girdilerde başarısız olmasıdır. Makine öğrenmesinin temel bir başarısızlık biçimidir ve modeli her zaman hiç görmediği veriyle değerlendirmenizin nedenidir. SaaS geliştiricileri için aşırı öğrenme, bir modeli ince ayarladığınızda veya küçük bir özel model eğittiğinizde ortaya çıkan pratik risktir: birkaç yüz örneği çok fazla epoch boyunca beslerseniz, model bunları kusursuzca geri papağanlar ama gerçek kullanıcı girdilerine kötü genellenir. Belirtiler arasında eğitim ile doğrulama performansı arasındaki büyük fark ve küçük yeniden ifadelere karşı kırılgan bir model yer alır. Savunmalar standarttır: bir doğrulama ve test seti ayırın, doğrulama iyileşmeyi bıraktığında eğitimi durdurun (erken durdurma), daha çok ve daha çeşitli veri kullanın ve ağır ince ayar yerine hafif adaptasyonu (LoRA, prompt, retrieval) tercih edin. Aynı fikir değerlendirmelerde de görülür — kıyaslamanıza aşırı uymuş bir model veya prompt, o kıyaslamada harika görünüp üretimde hayal kırıklığı yaratabilir.