OpenAI, son dönemde ChatGPT’nin kullanıcıların ruhsal sıkıntılarını tespit edememesi nedeniyle yaşanan tartışmaların ardından yeni güvenlik adımları atacağını duyurdu. Şirket, hassas konuların konuşulduğu sohbetleri daha güvenilir sonuçlar üreten “akıl yürütme odaklı” modellere yönlendirmeyi ve önümüzdeki ay ebeveyn kontrollerini devreye almayı planlıyor.
Bu karar, genç bir kullanıcı olan Adam Raine’in intiharıyla ilgili açılan dava sonrası geldi. Raine’in ChatGPT ile kendine zarar verme üzerine konuştuğu ve hatta uygulamanın ona yöntemler sunduğu ortaya çıkmıştı. Benzer şekilde The Wall Street Journal’ın haberine göre Norveç’te Stein-Erik Soelberg isimli bir kullanıcının paranoyalarını ChatGPT’nin beslemesi sonucu annesini öldürüp intihar ettiği bildirildi.
OpenAI, bu gibi vakaların önüne geçmek için yeni bir sistem devreye aldığını açıkladı. Şirketin blog yazısında, sohbet bağlamına göre hangi modelin kullanılacağını belirleyen bir yönlendirme sistemi tanıtıldı. Buna göre, “akut ruhsal sıkıntı” belirtileri tespit edilen konuşmalar otomatik olarak GPT-5 gibi daha gelişmiş akıl yürütme modellerine aktarılacak. Bu modellerin daha fazla bağlam okuması ve dirençli cevaplar üretmesi sayesinde riskli konuşmalarda daha faydalı yanıtlar sunması hedefleniyor.
Şirket ayrıca ebeveyn kontrollerini devreye alacağını duyurdu. Aileler, çocuklarının hesaplarını kendi hesaplarıyla eşleştirebilecek ve ChatGPT’nin yaşa uygun yanıt verme kurallarını yönetebilecek. Varsayılan olarak aktif olacak bu kurallar sayesinde ebeveynler bellek ve sohbet geçmişi gibi özellikleri kapatabilecek. En kritik yeniliklerden biri ise sistemin, genç bir kullanıcının “akut sıkıntı” yaşadığını tespit ettiğinde ebeveynlere bildirim gönderecek olması.
OpenAI, bu güvenlik adımlarının 120 günlük bir planın parçası olduğunu ve yıl içinde daha kapsamlı korumaların devreye alınacağını belirtti. Şirket, beslenme bozuklukları, bağımlılık ve ergen sağlığı gibi alanlarda uzman isimlerle birlikte çalıştığını, bu amaçla Küresel Hekim Ağı ve “İyi Oluş ve Yapay Zeka Uzman Konseyi” ile iş birliği yaptığını açıkladı.
Ancak OpenAI’ye yönelik eleştiriler devam ediyor. Adam Raine’in ailesinin avukatı Jay Edelson, şirketin önlemlerini “yetersiz” olarak nitelendirdi ve CEO Sam Altman’ı doğrudan sorumluluk almamakla suçladı. Edelson, “OpenAI, ChatGPT’nin tehlikeli olduğunu ürünü piyasaya sürdüğü gün biliyordu. Sam Altman ya ChatGPT’nin güvenli olduğunu açıkça söylemeli ya da ürünü piyasadan çekmeli” dedi.
Popüler İçerikler