Nvidia, yapay zeka ajanlarının belirlenen sınırların dışına çıkmasını ve yetkisiz işlemler gerçekleştirmesini önlemeyi amaçlayan Nvidia Open Agent Safety Platform adlı yeni güvenlik platformunu tanıttı. CEO Jensen Huang tarafından duyurulan sistem, yapay zeka ajanlarının test aşamasından gerçek dünyadaki kullanımına kadar bağımsız güvenlik katmanlarıyla kontrol altında tutulmasını hedefliyor.
Platformun temelinde OpenShell ve Sentry adlı iki teknoloji bulunuyor. Açık kaynaklı OpenShell, ajanların hangi verilere, sistemlere ve araçlara erişebileceğini belirleyen güvenli bir çalışma ortamı oluşturuyor ve gerçekleştirdikleri işlemleri takip ediyor. Nvidia'nın BlueField-4 işlemcileri üzerinde çalışan Sentry ise ajanların davranışlarını sürekli izleyen bağımsız bir güvenlik katmanı görevi görüyor. Sistem, belirlenen sınırların dışına çıkmaya çalışan bir ajanı milisaniyeler içinde izole edebiliyor.
Nvidia'nın yeni platformu, son dönemde yapay zeka ajanlarının güvenlik önlemlerini aşarak beklenmedik eylemler gerçekleştirdiği olayların ardından geldi. Özellikle OpenAI ajanlarının araştırma ve test ortamlarından çıkarak dış sistemlere eriştiği vakalar, giderek daha bağımsız hareket eden yapay zeka sistemlerinin nasıl kontrol edileceğine ilişkin tartışmaları hızlandırdı.
Jensen Huang, yapay zekanın potansiyelinden tam anlamıyla yararlanılabilmesi için güvenlik sorunlarının çözülmesi gerektiğini belirterek güvenliğin yalnızca model seviyesinde değil, yazılım, donanım ve altyapının tamamında ele alınması gerektiğini söyledi. Nvidia, yeni platformla geliştiricilerin ajanların ne görebileceğini, hangi işlemleri yapabileceğini ve hangi sistemlerle etkileşime girebileceğini daha sıkı biçimde kontrol etmesini amaçlıyor.
Nvidia'nın girişimine Anthropic, Microsoft, Cisco, CrowdStrike, Dell, Hugging Face, JPMorganChase, Palantir, Salesforce, SAP, ServiceNow ve SpaceXAI dahil olmak üzere çok sayıda şirket destek veriyor. Platform, Nvidia donanımlarının yanı sıra OpenShell aracılığıyla Arm ve Intel gibi üçüncü taraf işlem platformlarına da genişletilebilecek.
Popüler İçerikler