Üyelik Çıkarımı Saldırısı (Membership Inference)

Üyelik çıkarımı saldırısı, modele asla yanıtlamaması gereken bir soru sorar: bu belirli kayıt senin eğitim verinin parçası mıydı? Saldırgan modeli yoklar — çoğu zaman yalnızca aday bir örnek üzerindeki güven puanları ya da kayıp değeri üzerinden — ve modellerin ezberlediği veride hiç görmediği veriye göre ölçülebilir biçimde farklı davrandığı gerçeğini sömürür. Aşırı öğrenmiş (overfit) modeller en savunmasız olanlardır; saldırının pratik bir gizlilik denetimi olarak da kullanılmasının nedeni budur. Riskler somuttur: bir kişinin kaydının bir hastanenin eğitim kümesinde olduğunu doğrulamak, onun hasta olduğunu ifşa eder ve düzenleyiciler böyle sızıntıları giderek GDPR tarzı kurallar altında kişisel veri ihlali sayıyor. Savunmalar: eğitim sırasında diferansiyel gizlilik (ilkeli çözüm), ezberlemeyi dizginlemek için düzenlileştirme ve tekilleştirme, API'nizden dışarı verilen güven çıktılarının hassasiyetini sınırlamak. Müşteri verisiyle ince ayar yapan her SaaS ürünü, yayına almadan önce bunu test etmelidir.