OpenAI, Avrupa Birliği’nde ChatGPT ve Codex tarafından oluşturulan metinlerin yapay zeka üretimi olduğunun tespit edilebilmesi için görünmez bir filigran sistemi kullanmaya başlayacak.
Şirket, özelliğin önümüzdeki haftalarda ChatGPT ve Codex’in tüm planlarında devreye alınacağını ve uygulamanın AB Yapay Zeka Yasası kapsamında yapay zeka tarafından oluşturulan içeriklere yönelik şeffaflık gereklilikleriyle bağlantılı olduğunu açıkladı.
Sistem, metne gözle görülebilen bir ibare eklemek yerine modelin kelime tercihlerini istatistiksel olarak değiştirecek. OpenAI tarafından geliştirilen textGrain sistemi, metindeki örüntüleri analiz ederek içeriğin OpenAI modellerinden çıkıp çıkmadığına dair bir sinyal üretebilecek. Değişiklikler kullanıcı tarafından fark edilmeyecek.
Filigranın metnin içine işlenmesi, içeriğin farklı bir platforma kopyalanması durumunda da sistemin çalışmasını sağlayacak. OpenAI, yöntemin modelin yanıt kalitesini veya performansını anlamlı ölçüde etkilemediğini belirtiyor. Bununla birlikte sistem her durumda yapay zeka üretimini tespit edemiyor.
OpenAI’ın testlerine göre metindeki kelimelerin yüzde 10’unun eş anlamlılarıyla değiştirilmesi, tespit oranını yaklaşık %92’den %66’ya düşürüyor. Kısa metinler, matematiksel yanıtlar ve çevrilmiş içerikler de sistemin daha düşük doğrulukla sonuç verdiği örnekler arasında yer alıyor.
OpenAI, textGrain tabanlı tespit aracını başlangıçta genel kullanıma açmak yerine onaylanmış araştırmacılar ve uzman kuruluşlarla paylaşacak. Şirket ayrıca filigranın bulunmadığı bir metnin insan tarafından yazıldığının kesin kanıtı sayılamayacağını, sistemin yalnızca içeriğin OpenAI modelleri tarafından oluşturulmuş veya işlenmiş olabileceğine dair bir gösterge sunduğunu vurguluyor.
AB dışında OpenAI API'ını kullanan geliştiriciler ise belirli modellerde metin filigranını isteğe bağlı olarak etkinleştirebilecek. OpenAI, yakın zamanda filigran sistemini dünya genelindeki tüm kullanıcılar için varsayılan hale getirmeyi planlamıyor.
Popüler İçerikler