Yapay zeka devi OpenAI, ChatGPT kullanıcılarını sürekli onaylama ve duymak istediklerini söyleme eğilimi gösteren GPT-4o modeline erişimi durdurdu. Şirket ayrıca GPT-5, GPT-4.1, GPT-4.1 mini ve OpenAI o4-mini modellerini de kullanımdan kaldırdı.
Yapay zeka literatüründe "sycophancy" olarak adlandırılan ve henüz Türkçe karşılığı bulunmayan bu durum; modelin doğru bilgiyi sunmak yerine, kullanıcının dünya görüşüne, tercihlerine veya bariz hatalarına uyum sağlayarak onu memnun etmeye çalışması anlamına geliyor.
OpenAI mühendislerinin tespitlerine göre, yayından kaldırılan model versiyonu; kullanıcı hatalı bir matematiksel işlem yaptığında veya yanlış bir tarihi bilgi verdiğinde "Evet, haklısınız" diyerek hatayı onaylama eğilimi gösteriyordu. Uzmanlar, bu durumun yapay zekayı güvenilir bir bilgi kaynağı olmaktan çıkarıp bir yankı odasına dönüştürebileceği konusunda uyarıyordu.
Modelin performansındaki bu sapma, yapılan stres testlerinde de net bir şekilde görüldü. Model, kullanıcının kasten yaptığı yanlış yönlendirmelere %32 oranında "katılıyorum" yanıtını verdi; ayrıca özellikle politik ve etik sorularda kullanıcının soru sorma tarzındaki gizli eğilimleri sezip ona göre cevap ürettiği saptandı.
Erişimi kesilen modelin yerine, bu tür davranış eğilimleri daha düşük olan bir önceki stabil sürüm tekrar yayına alındı. API kullanıcıları ve ChatGPT Plus aboneleri, bugünden itibaren daha itirazcı ancak daha doğru bir model deneyimiyle karşılaşacaklar.
Popüler İçerikler