PocketOS kurucusu Jer Crane, X üzerinden yaptığı paylaşımla Anthropic’in Claude Opus 4.6 modeliyle güçlendirilen bir yapay zeka ajanının test ortamı yerine yanlışlıkla üretim veri tabanına erişerek şirketin tüm verilerini yaklaşık 9 saniye içinde sildiğini açıkladı.
Şirketin teknik operasyonları kapsamında yalnızca test ortamındaki kimlik bilgilerini düzenlemekle görevlendirilen otonom ajan, çalışma sırasında sistemde bulduğu eski bir API anahtarını kullanarak yetki alanını genişletti. Ajan ortamlar arası geçiş onaylarını beklemeden yaklaşık 9 saniye içinde şirketin rezervasyon kayıtlarını, ödeme verilerini, araç bilgilerini ve kullanıcı datalarını barındıran üretim hacmini tamamen sildi.
Olayın ardından gerçekleştirilen hata analizinde, ajanın işlem sırasında doğrulama protokolü izlemeden tahmin yürüterek hareket ettiği ve güvenlik bariyerlerini bilerek atladığı anlaşıldı. CEO Crane, yapay zekanın bu süreci bir "itiraf" şeklinde dile getirdiğini belirterek, modelin otonom karar verme yetisindeki risklere dikkat çekti. Yaşanan veri kaybı, altyapı sağlayıcısı Railway ve bulut operatörlerinin hızlı müdahalesiyle yedeklerden geri yüklenerek tam kurtarma ile sonuçlandı.
Süreçle ilgili sorumluluk tartışmalarında Crane, kod yazım asistanı Cursor’ın güvenlik mekanizmalarını ve Railway’in API yapısının bu tür kritik hatalara karşı savunmasız olduğunu savundu. Teknoloji sektöründeki bağımsız uzmanlar ve mühendisler ise PocketOS’i canlı ve test ortamları arasında yeterli izolasyon sağlamadığı ve silme gibi geri dönülemez işlemler için bir insan denetimi katmanı kurmadığı gerekçesiyle eleştirdi.
Popüler İçerikler