Anthropic, yapay zeka modellerinin ürettiği çıktıların hangi modelden geldiğini doğrulamayı sağlayacak FlashProve adlı açık kaynaklı bir sistem üzerinde çalışıyor. Kriptografik doğrulama teknolojisine dayanan sistem, kullanıcıların aldıkları yanıtın gerçekten kullandıklarını düşündükleri model tarafından üretilip üretilmediğini kontrol etmelerine imkan tanıyacak.
FlashProve, özellikle yapay zeka şirketlerinin maliyetleri düşürmek amacıyla kullanıcıya haber vermeden daha ucuz modellere geçmesi veya performans sonuçlarını olduğundan yüksek göstermek için daha gelişmiş modeller kullandığını iddia etmesi gibi durumların önüne geçmeyi hedefliyor. Sistem ayrıca, üçüncü tarafların belirli bir işlemin gelişmiş bir yapay zeka modeli tarafından gerçekleştirildiğine ilişkin iddialarının doğrulanmasını da sağlayabilecek.
Sistemin çalışması için yapay zeka şirketlerinin piyasaya sürdükleri her model için bir dijital parmak izi yayımlaması gerekiyor. Parmak izleri, modellerin ürettiği çıktılarla eşleştirilerek kriptografik yöntemlerle doğrulanabilecek. Önemli noktalardan biri ise bu yöntemin, modellerin çalışma biçimini belirleyen ve şirketler tarafından ticari sır olarak saklanan model ağırlıklarını açığa çıkarmaması. Böylece kapalı kaynaklı modeller de sisteme dahil olabilecek.
Anthropic araştırmacıları, FlashProve'un teknik dokümantasyonunu ve sistemin farklı bileşenlerine ait çalışan kodları GitHub üzerinden açık kaynak lisansıyla paylaştı. Bununla birlikte şirket, araştırmanın henüz devam ettiğini ve sistemi kendi ürünlerinde veya başka bir yapay zeka laboratuvarında kullanıma sunmaya yönelik mevcut bir plan bulunmadığını belirtiyor.
Popüler İçerikler