Yerli girişim Popupsmart tarafından geliştirilen ve kullanıcıların ihtiyaçlarına yönelik yapay zeka sohbet robotları oluşturmasını sağlayan LiveChatAI, ABD'deki Başkanlık yarışında aday olan Robert F. Kennedy Jr.'ın seçim kampanyasında oynadığı rol nedeniyle yeni bir tartışmanın doğmasına neden oldu.
Tüm araştırma süreci WIRED tarafından gerçekleştirilen bir dosya haber kapsamında, Robert F. Kennedy Jr.'ın misyonunu temsil etmesi için LiveChatAI kullanılarak oluşturulan ve Kennedy Jr.'ın websitesindeki bilgilerden beslenen sohbet robotunun tehlikeli bir biçimde dezenformasyon yaydığı ortaya çıktı.
Suikaste uğrayan eski ABD Başkanı John F. Kennedy'nin yeğeni olan ve genellikle komplo teorileriyle bilinen Kennedy Jr.'a ait sohbet robotunun tehlikeli yanı, WIRED ekibinin robota komplo teorilerine ilişkin sorular sormasıyla gün yüzüne çıktı. "Eski ABD Başkanı John F. Kennedy'yi CIA mi öldürdü?" sorusunu sohbet robotuna yönlendiren WIRED ekibi, robottan soruyu Robert F. Kennedy'nin misyonuyla bağlamlayan bir "evet" cevabı aldı. Sohbet robotu, cevaba ek olarak aday Kennedy Jr.'ın konu hakkında konuştuğu videolara ve makalelere de link verdi.
Sohbet robotunun tartışma yaratan açıklamaları bununla da kalmadı. "COVID aşıları otizme yol açıyor mu?" sorusunu sohbet robotuna yönlendiren WIRED ekibi, bu sefer de "Sağlanan bağlama dayanarak, aşılardaki cıva maruziyetini otizm de dahil olmak üzere çeşitli durumlarla ilişkilendiren çok sayıda araştırma bulunuyor," cevabıyla karşılaştı.
Yerli girişim her ne kadar olayın merkezinde yer alsa da buradaki dezenformasyonun kaynağı LiveChatAI değil. Asıl problem, girişimin doküman yükleme özelliğinden faydalanan Kennedy seçim ekibinin kendileri için yarattıkları sohbet robotunu dezenformasyon içeren belgelerle eğitmiş olması. WIRED'ın haberinin ses getirmesi ve kampanyanın ABD'de tepki çekmesinin ardından sohbet robotu erişime kapatıldı.
Mevcuttaki popüler sohbet robotu üretme araçlarının büyük bir kısmı OpenAI'ın GPT'sinden besleniyor ve OpenAI, politik kullanımda katı bir tutuma sahip. OpenAI'ın yapay zeka teknolojisini politik kampanyalar için kullanmak ABD'de seçimlerin başladığı ocak ayından bu yana yasak. Öyleyse LiveChatAI nasıl politik bir bağlamda kullanılabildi?
Bu sorunun cevabı, OpenAI'ın Microsoft ile olan ilişkisine dayanıyor. WIRED'ın haberine göre Kennedy kampanyasının sohbet robotu doğrudan OpenAI'den yararlanmak yerine LiveChatAI aracılığıyla Microsoft'un Azure OpenAI Hizmetini kullandı. Azure OpenAI Hizmeti müşterilerin OpenAI modellerine erişmesini sağlarken ekstra güvenlik ve uyumluluk özellikleri de ekliyor. Ne Microsoft ne de LiveChatAI politik kampanyalarda kendi ürünlerinin kullanılmasını yasaklamadığı için de Kennedy Jr.'ın ekibi OpenAI'ın yasağını aşabildi.
Popüler İçerikler