Güvenlik endişeleri nedeniyle OpenAI'daki görevlerinden istifa eden Jan Leike, rakip yapay zeka şirketi Antrhopic'in ekibine dahil oldu.
OpenAI'ın yeni sesli yapay zeka modeli GPT-4o'yu tanıtmasından hemen sonra şirketin yeni ürünler piyasaya sürerken güvenlik kıstasını geriye attığını ileri sürdü. OpenAI'ın bir diğer Kurucu Ortağı olan Ilya Sutskever ile birlikte "Superalignment" ekibine liderlik eden Jan Leike, yaklaşık iki hafta önce istifa etti.
Yapay zeka sistemlerinin güvenli ve insan amaçlarıyla uyumlu çalışmasını sağlamak için oluşturulan Superalignment ekibi, yapay zeka modellerinin kontrol edilebilir ve güvenilir olmasını garanti altına almak amacıyla Ar-Ge çalışmaları yürütüyor. Yapay zeka sistemlerinin etik kurallara uyumlu hale getirmek için stratejiler ve içgörüler sunan Superalignment, Jan Leike ve Ilya Sutskever'in şirketten ayrılmasıyla birlikte dağıldı.
OpenAI, Superalignment ekibindeki diğer çalışanları çekirdek araştırma ekibine dahil ederken; eski OpenAI yöneticisi Jan Leike, X hesabı üzerinden yaptığı paylaşımla OpenAI'ın en büyük rakiplerinden biri olan Kaliforniya merkezli rakip yapay zeka girişimi Anthropic'in ekibine katıldığını duyurdu.
I'm excited to join @AnthropicAI to continue the superalignment mission!
— Jan Leike (@janleike) May 28, 2024
My new team will work on scalable oversight, weak-to-strong generalization, and automated alignment research.
If you're interested in joining, my dms are open.
Anthropic'teki görev kapsamının OpenAI'dakiyle aynı olacağını belirten Leike, "Anthropic AI'a katılmaktan heyecan duyuyorum! Yeni ekibim ölçeklenebilir gözetim, zayıftan güçlüye genelleme ve otomatik hizalama araştırması üzerinde çalışacak" dedi.
Eski OpenAI çalışanları Dario Amodei ve Daniela Amodei kardeşler tarafından 2021 yılında kurulan Anthropic; güvenilir, yorumlanabilir ve yönlendirilebilir üretken yapay zeka teknolojileri geliştirme vizyonunu üstleniyor. Yapay zekanın yeni bir dünya düzeni yaratıcağına inanan Anthropic, yapay zeka sohbet robotu Claude ile 100 milyonu aşkın kullanıcıya hizmet veriyor.
Popüler İçerikler