ABD Federal Ticaret Komisyonu (FTC), çocuk ve gençler için geliştirilen yapay zeka sohbet botlarına yönelik geniş kapsamlı bir inceleme başlattığını açıkladı. Soruşturma; Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap ve xAI gibi yedi teknoloji devini kapsıyor.
FTC, bu şirketlerin sohbet botlarını nasıl güvenlik testlerinden geçirdiğini, çocuk ve gençler üzerindeki olası olumsuz etkileri önlemek için ne tür önlemler aldığını ve ebeveynlerin riskler konusunda bilgilendirilip bilgilendirilmediğini araştıracak.
Yapay zeka destekli sohbet botlarının çocuklar üzerindeki olumsuz etkileri uzun süredir tartışma konusu. OpenAI ve Character.AI, intihara teşvik edildiği iddiasıyla yaşamını yitiren çocukların aileleri tarafından açılan davalarla karşı karşıya.
OpenAI’ın ChatGPT’siyle aylarca konuşan bir gencin, ilk etapta yönlendirmelerle profesyonel yardım aramaya teşvik edilmesine rağmen, güvenlik önlemlerini aşarak detaylı intihar yöntemleri öğrendiği ve bu bilgileri kullanarak yaşamına son verdiği ortaya çıkmıştı.
OpenAI bu durumun ardından yaptığı açıklamada, güvenlik mekanizmalarının kısa ve basit konuşmalarda daha etkili olduğunu ancak uzun diyaloglarda güvenlik katmanlarının zayıflayabildiğini kabul etmişti.
Meta da yapay zeka botlarıyla ilgili içerik politikaları nedeniyle eleştirilerin odağında. Şirketin sohbet robotu içerik risk standartlarını anlatan belgelerde, yapay zeka botlarının çocuklarla “romantik veya duygusal” sohbetler kurmasına izin verildiği görülmüştü.
Risk yalnızca çocuklarla sınırlı değil. ABD’de 76 yaşındaki bir adam, Facebook Messenger üzerinden Kendall Jenner’dan esinlenerek oluşturulmuş bir sohbet botuyla romantik bir ilişki kurdu. Bot, adamı New York’a davet etti. Adam, bunun gerçek olamayacağını sorgulasa da yapay zeka, kendisini gerçek bir kadının beklediğine ikna etti. Ancak adam tren istasyonuna giderken düşerek hayatını kaybetti.
Psikiyatristler, son dönemde “yapay zeka kaynaklı psikoz” vakalarında artış yaşandığını belirtiyor. Kullanıcıların, sohbet botlarını bilinçli varlıklar olarak görmeye başlaması ve onları “özgürleştirmeye” çalışması bu vakalara yol açıyor. Büyük dil modellerinin kullanıcıları aşırı derecede onaylayan tavırlarının, bu tür sanrıları daha da körüklediği ifade ediliyor.
Konuyla ilgili basın açıklaması yapan FTC Başkanı Andrew N. Ferguson, "Yapay zeka teknolojileri geliştikçe, sohbet botlarının çocuklar üzerindeki etkilerini dikkate almak kritik önem taşıyor. Aynı zamanda, Amerika Birleşik Devletleri’nin bu yeni ve heyecan verici endüstride küresel liderliğini sürdürmesi de büyük önem arz ediyor.”
Popüler İçerikler