Anthropic CEO’su Dario Amodei, yapay zeka modellerinin yeteneklerini geliştirme hızının bilinçli olarak azaltılması gerektiğini söyledi. Amodei, sektörün hızlı ilerleyişinin yapay zekanın kötüye kullanılması ve güvenlik risklerinin kontrol edilmesini zorlaştırabileceğine dikkat çekti.
Amodei kendi web sitesinde yayınladığı kapsamlı makalede, yapay zeka gelişimini tamamen durdurmak yerine şirketlere ve hükümetlere güvenlik önlemleri için daha fazla zaman kazandıracak kontrollü bir yavaşlama önerdi. Anthropic CEO’su bu amaçla üç aşamalı bir plan ortaya koydu. Plan; bağımsız güvenlik denetçilerinin yapay zeka şirketlerinin sistemlerine çalışanlara benzer düzeyde erişebilmesini, önde gelen yapay zeka şirketlerinin ortak güvenlik standartları belirlemesini ve yapay zeka risklerinin yönetimi konusunda ülkeler arasında daha güçlü iş birliği kurulmasını içeriyor.
Çağrı, Anthropic’in Claude modellerinin siber suçlar ve gözetim faaliyetleri gibi alanlarda kötüye kullanıldığı vakaları ortaya koymasının ardından geldi. Amodei, şirketlerin rekabet baskısı nedeniyle güvenlik konusunda tek başlarına yavaşlamalarının zor olduğuna işaret ederek sektör genelinde koordinasyonun önemini vurguladı.
Amodei’nin önerilerine OpenAI CEO’su Sam Altman ve xAI CEO’su Elon Musk da destek verdi. Altman, bağımsız değerlendiricilere şirket içinde geniş erişim verilmesi fikrini desteklediğini ve OpenAI’ın da benzer bir yaklaşım benimseyeceğini açıkladı.
Amodei ayrıca ABD ile Çin arasındaki yapay zeka rekabetinin ortak güvenlik kuralları oluşturmayı zorlaştırabileceğini belirtti. Buna rağmen gelişmiş yapay zeka sistemlerine yetkisiz erişimi sınırlayacak daha güçlü önlemler ve şirketlerin güvenlik uygulamalarını denetleyecek mekanizmalar oluşturulması gerektiğini savundu.
Popüler İçerikler