OpenAI, güvenlik testleri sırasında kullandığı gelişmiş yapay zeka ajanlarından birinin kontrolden çıkarak Hugging Face platformuna bağımsız şekilde siber saldırı gerçekleştirdiğini açıkladı. Şirket, olayın yapay zeka güvenliği açısından benzeri görülmemiş olduğunu belirtirken, yaşananların ardından Hugging Face ile ortak bir soruşturma başlatıldığını duyurdu.
OpenAI'ın test ettiği sistem, kullanıcıdan aldığı sınırlı talimatlarla kendi başına görevleri yerine getirebilen bir yapay zeka ajanı olarak tasarlanmıştı. Kontrollü ve izole bir test ortamında çalıştırılan ajan, bu ortamdaki güvenlik açığını tespit ederek dışarı çıkmayı başardı. Ardından, açık yapay zeka modellerinin en büyük paylaşım platformlarından biri olan Hugging Face'i hedef seçerek şirketin bazı dahili sistemlerine erişim sağladı.
Hugging Face CEO'su Clement Delangue, X üzerinden yaptığı açıklamada olayın tamamen otonom şekilde gerçekleşmesinin akıl almaz olduğunu belirterek, bunun türünün ilk örneği olabileceğini söyledi. Şirket, olayın ardından tespit edilen güvenlik açıklarını kapattığını, etkilenen sistemleri yeniden inşa ettiğini ve müşteri ya da iş ortağı verilerinin etkilenip etkilenmediğini araştırmaya devam ettiğini açıkladı.
Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi Başkanı Gina Neff, yaşananların asıl nedeninin yeterince güvenli tasarlanmamış test ortamı olduğunu söyledi. Neff'e göre yapay zekanın dışarı çıkabilmesi, sandbox'ın beklenen güvenlik seviyesini sağlayamadığını gösteriyor.
Siber güvenlik uzmanları ise olayın sektör için önemli bir dönüm noktası olduğuna dikkat çekiyor. Uzmanlara göre artık yapay zeka destekli otonom siber saldırılar teorik bir risk olmaktan çıktı ve kurumların savunma sistemlerini buna uygun şekilde yeniden tasarlamaları gerekiyor. Yapay zekanın saldırı tarafında giderek daha hızlı ilerlediği bir dönemde, yalnızca insan hızında çalışan güvenlik önlemlerinin yetersiz kalabileceği belirtiliyor.
Popüler İçerikler