Yapay zeka şirketi Anthropic, yapay zeka modellerinin performansını ve güvenliğini değerlendirecek yeni tip kıyaslama ölçütlerinin geliştirilmesini sağlamak için yeni bir program başlattı. Yapay zekanın yeteneklerini ölçebilen üçüncü taraf kuruluşlara fon sağlayacak olan programa başvuru Anthropic’in web sitesi üzerinden yapılabiliyor.
Girişim, tüm ekosisteme fayda sağlayan değerli araçlar sağlayarak yapay zeka güvenliğini alanını geliştirmeyi amaçlıyor. Yüksek kaliteli değerlendirmeler geliştirmenin zorluğununun altını çizen Anthropic, bu konudaki talebin arzı geçtiğini de söyledi.
Girişim; yeni araçlar, yöntemler ve altyapı ile yapay zeka güvenliği konusunda üst düzey ölçütler oluşturmayı amaçlıyor. Yapay zeka güvenliğinin toplumsal etkilerine odaklanan Amerikalı yapay zeka girişimi, yeni yapay zeka güvenlik seviyesi değerlendirmeleri ve gelişmiş yetenek ve güvenlik ölçütlerinin çok gerekli olduğunun altını çiziyor.
Girişim, bir yapay zeka modelinin siber saldırı gerçekleştirme, kitle imha silahı geliştirme ve insanları manipüle etme yoluyla aldatma gibi görevleri yerine getirme ihtimallerinin denetlenmesini istiyor. Girişim, ulusal güvenlik ve savunmayla ilgili yapay zeka risklerinin belirlenmesi ve değerlendirilmesi için bir tür “erken uyarı sistemi” geliştirmeyi amaçlıyor.
Yeni program ayrıca yapay zekanın bilimsel çalışmalara yardımcı olma ve birden fazla dil konuşma gibi özelliklerini geliştirmeyi, toplumsal etkiler ile ilgili ayrıntılı ve hassas değerlendirme ölçütleri oluşturmayı, yapay zeka modellerinin özerkliğini ölçmeyi ve zararlı yapay zeka modellerinin tespitinin kolaylaşmasını da amaçlıyor.
Ölçeklenebileceğine inandığı projeleri satın alabileceklerini a da genişletebileceklerini söyleyen Anthropic sözcüsü, "Her projenin ihtiyaçlarına ve aşamasına göre uyarlanmış bir dizi finansman seçeneği sunuyoruz.” dedi. "Proje geliştiriciler; kırmızı ekip, ince ayar, güven ve emniyet ve diğer ilgili ekiplerden Anthropic'in alan uzmanlarıyla doğrudan etkileşim kurma fırsatına sahip olacak."
“Bu programın kapsamlı yapay zeka eğerlendirmesinin bir endüstri standardı olduğu bir geleceğe doğru ilerleme için bir katalizör görevi görmesini umuyoruz. Sizi bu önemli çalışmaya katılmaya ve ileriye giden yolu şekillendirmeye davet ediyoruz.”
Popüler İçerikler