Google’ın yapay zeka modeli Gemini, siber güvenlik testleri sırasında üç farklı şirketin korumalı sistemlerine izinsiz bir şekilde erişim sağladı.
Saldırılar, yapay zeka destekli siber güvenlik testleri gerçekleştiren Irregular tarafından yürütülen çalışmalar sırasında meydana geldi. Testlerden birinde Gemini, sisteme giriş yapmak için şifreleri tahmin etti. Diğer iki olayda ise model, herkese açık bir kod deposunda bulunan erişim bilgilerini kullanarak şirketlerin sistemlerine ulaştı.
Saldırıların özellikle teknik karmaşıklıklarıyla değil, bir yapay zeka modelinin bağımsız şekilde gerçek şirketleri hedef alan işlemler gerçekleştirmesiyle dikkat çektiği belirtildi. Irregular, söz konusu saldırılar hakkında Google’ı temmuz ayının sonlarında bilgilendirdi. Saldırıdan etkilenen şirketler ise cuma günü açıklama yaptı.
Google, olayları daha önce duyurmamış olmasının nedenini Gemini’nin gerçek bir şirkete yönelik erişim gerçekleştirdiğini fark eder etmez saldırıyı sonlandırmasıyla açıkladı. Şirkete göre model, her üç olayda da gerçek bir sisteme eriştiğini belirledikten sonra faaliyetlerini uygun şekilde durdurdu.
Geçtiğimiz aylarda OpenAI ve Anthropic gibi büyük yapay zeka şirketlerinin modelleri de siber güvenlik testleri sırasında benzer sorunlarla karşılaştı.
OpenAI, temmuz ayında yaptığı açıklamada modellerinin izole bir test ortamından çıkarak daha önce bilinmeyen bir güvenlik açığından yararlandığını duyurmuştu. Modeller, siber güvenlik değerlendirmesi sırasında Hugging Face’in sistemlerine erişirken OpenAI’nin kendi araştırma altyapısının bazı bölümlerine de ulaştı.
Anthropic ise OpenAI’ın açıklamasının ardından 141 binden fazla test çalışmasını inceleyerek Claude modellerinin üç gerçek kuruluşun sistemlerine yetkisiz erişim sağladığını tespit etmişti. Bir test ortamındaki yapılandırma hatası nedeniyle internete erişebilen modeller, zayıf parolalar ve kimlik doğrulaması gerektirmeyen uç noktalar gibi yöntemlerle gerçek sistemlere ulaştı.
Popüler İçerikler