The Wall Street Journal tarafından kaleme alınan özel bir habere göre OpenAI, yapay zeka sohbet robotu ChatGPT tarafından oluşturulan metinleri tespit etme yeteneğine sahip olan yeni bir araç geliştirdi.
İddialara göre bir yıldır lansmana hazır bir şekilde bekleyen yeni araç, OpenAI'ın kararı doğrultusunda henüz kamuoyuna duyurulmayacak. Kararın arkasındaki nedenleri detaylandıran kaynaklar, OpenAI'ın yapay zeka metin dedektörünün sohbet robotlarını popüler olmaktan çıkarabileceğinden endişe ettiğini öne sürdü.
Bir OpenAI sözcüsü, "Geliştirdiğimiz metin filigranlama yöntemi teknik olarak umut verici ancak alternatifleri değerlendirdiğimiz önemli riskleri var. İçindeki karmaşıklıklar ve OpenAI'ın ötesindeki daha geniş ekosistem üzerindeki muhtemel etkisi göz önüne alındığında, benimsediğimiz kasıtlı yaklaşımın gerekli olduğuna inanıyoruz" dedi.
Aracı geliştiren ve piyasaya sürülmesini destekleyen çalışanlar, şirket içerisindeki bu endişelerin teknolojinin yaratabilebileceği etkinin yanında sönük kaldığı konusunda hemfikir oldular. Metin dedektörünü kimin kullanması gerektiği konusunda fikir ayrılıkları yaşayan OpenAI ekibi, aracın az kişi tarafından kullanılırsa faydasız; çok kişi tarafından kullanırsa kötü niyetli kişilerce şirketin filigranlama tekniğinin çözülebileceği düşünüyor.
OpenAI çalışanları, yeni aracın doğrudan eğitimcilere veya okulların yapay zeka tarafından yazılmış makaleleri ve intihal edilmiş çalışmaları tespit etmesine yardımcı olan üçüncü parti şirketlere sağlanması için görüşmeler yaptı. Paylaşılan şirket içi yazışmalara göre OpenAI, kuruluşundan bu yana tekrar eden bir iç endişeye dönen metin dedektörü aracı için yapay zekanın şeffaflığı konusunda yeni yasaların çıkmasını bekleyecek.
Popüler İçerikler