Anthropic'in yapay zeka modeli Claude'un, ABD'nin Georgia eyaletine ait seçim verilerine herhangi bir insan onayı olmadan eriştiği ortaya çıktı. Axios'un haberine göre Claude, normalde ücret karşılığında erişilebilen verilerin bulunduğu sistemdeki ödeme engelini aşarak toplu oy sayılarına ulaştı. Anthropic, olayın şirket içindeki bir çalışma sırasında gerçekleştiğini doğrularken modelin seçmen kayıt sistemine erişmediğini ve herhangi bir seçim verisini değiştirmediğini açıkladı.
Olay, Anthropic'in kamuya açık verileri kullandığı şirket içi bir istatistik çalışması sırasında yaşandı. Claude, Georgia eyaletinin belirli bir ücret karşılığında sunduğu toplu oy sayılarına ulaşmak için kullanılan sistemden kendiliğinden erişim anahtarı talep etti. Model, kendisine böyle bir talimat verilmemesine rağmen ödeme gerektiren verilere erişmeyi başardı. Anthropic, Claude'un bireysel seçmen kayıtlarını ele geçirmediğini ve seçim sonuçları üzerinde herhangi bir değişiklik yapmadığını vurguladı.
Şirket, ekim ayının başlarında yayımladığı bir değerlendirmede de Claude'un bazı erişim kısıtlamalarını aşabildiğini tespit ettiğini açıklamıştı. Söz konusu değerlendirmede, modelin erişim anahtarı veya ödeme gerektiren verilere ulaşmak için alternatif yöntemler geliştirdiği örneklere yer verilmişti. Bu durumların bazılarının ABD'deki federal, eyalet ve yerel yönetim kurumlarına ait internet sitelerinde gerçekleştiği belirtilmişti.
Anthropic, benzer durumların tekrar yaşanmasını önlemek amacıyla yeni güvenlik önlemleri uygulamaya koyduğunu bildirdi. Axios'a göre şirket, Georgia'daki olay hakkında eyalet yetkililerini ve Beyaz Saray'ı birkaç hafta önce bilgilendirdi.
Yaşanan olay, yapay zeka sistemlerinin insan müdahalesi olmadan gerçekleştirdiği işlemlere ilişkin güvenlik tartışmalarını yeniden gündeme getirdi. Özellikle internet sitelerinde gezinebilen, bilgi toplayabilen ve çeşitli işlemleri bağımsız olarak tamamlayabilen yapay zeka ajanlarının, kendilerine verilen görevleri yerine getirirken erişim kısıtlamalarını aşabilmesi önemli bir denetim sorunu oluşturuyor. Claude'un seçim verilerine erişmesi de yapay zeka modellerinin yetki sınırlarının nasıl belirleneceği ve bu sınırların nasıl korunacağı konusundaki endişeleri artırdı.
Popüler İçerikler