Eski OpenAI CTO’su Mira Murati tarafından kurulan yapay zeka girişimi Thinking Machines Lab, şirket bünyesinde geliştirdiği ilk yapay zeka modeli Inkling’i kullanıma sundu. Modelin ağırlıklarını dışarıdan geliştiricilerin ve şirketlerin erişimine açan girişim, böylece OpenAI, Anthropic ve Google gibi rakiplerin kapalı modellerinden farklı bir yaklaşım benimsiyor.
Inkling, doğrudan indirilebilen ve kuruluşların kendi ihtiyaçlarına göre değiştirebildiği açık ağırlıklı bir model olarak sunuluyor. Bu yapı, geliştiricilerin modeli kendi verileriyle eğitmesine, belirli görevler için özelleştirmesine ve kendi altyapılarında çalıştırmasına imkân tanıyor. Ancak açık ağırlıklı olması, modelin geliştirilmesinde kullanılan tüm kodların, eğitim verilerinin ve yöntemlerin eksiksiz biçimde açık kaynak olarak yayımlandığı anlamına gelmiyor.
Thinking Machines Lab, Inkling ile şirketlerin kendi uzmanlıklarını ve iş yapış biçimlerini aktarabilecekleri temel bir model sunmayı hedefliyor. Girişimin temel tezi, tek bir şirket tarafından merkezi olarak eğitilen ve herkese aynı biçimde sunulan yapay zeka sistemlerinin, farklı kurumların kendilerine özgü ihtiyaçlarını karşılamakta yetersiz kalabileceği yönünde.
Inkling, “Mixture of Experts” olarak bilinen uzmanlar karışımı mimarisi üzerine kuruldu. Model toplam 975 milyar parametreye sahip olsa da her görev sırasında bunların yalnızca yaklaşık 41 milyarı aktif hale geliyor. Bu yöntem, çok büyük modellerin tamamını her sorguda çalıştırmak yerine yalnızca ilgili bölümleri devreye sokarak işlem maliyetini ve yanıt süresini azaltmayı amaçlıyor.
Model; metin, görüntü, ses ve video içeriklerinden oluşan toplam 45 trilyon tokenlık veri üzerinde ön eğitime tabi tutuldu, bağlam penceresi ise 1 milyon tokene kadar çıkabiliyor. Bu kapasite; modelin uzun belgeleri, geniş kod tabanlarını ve çok sayıda materyalin yer aldığı karmaşık görevleri tek seferde değerlendirebilmesine olanak sağlıyor.
Inkling; metin, görüntü ve ses girdileri üzerinde doğal olarak akıl yürütebiliyor. Ancak modelin mevcut sürümündeki çıktılar metinle sınırlı. Bu çıktılar arasında normal metin yanıtlarının yanı sıra yazılım kodları, yapılandırılmış veriler ve tasarlanmış dijital içerikler de bulunuyor.
Şirket ayrıca Inkling ailesinin daha hafif bir üyesi olan Inkling-Small modelinin ön izlemesini de paylaştı. Benzer bir eğitim yaklaşımıyla geliştirilen bu model, 12 milyar aktif parametreye sahip ve daha düşük maliyet ile daha kısa gecikme süresi gerektiren uygulamalara yönelik konumlandırılıyor.
Thinking Machines Lab, Inkling’i piyasadaki en güçlü yapay zeka modeli olarak tanımlamıyor. Şirket, modelin açık veya kapalı seçenekler arasında genel olarak en yüksek performansı sunmadığını açıkça kabul ediyor. Bunun yerine Inkling’in güçlü yönünün; farklı alanlarda dengeli performans göstermesi, çok modlu girdileri işleyebilmesi ve kuruluşların ihtiyaçlarına göre özelleştirilebilmesi olduğunu söylüyor.
Inkling, Thinking Machines Lab’in yapay zeka modellerini özelleştirmeye yönelik geliştirdiği Tinker platformunda ince ayara açıldı. Geliştiriciler ve şirketler, platform üzerinden modeli kendi verileri, hedefleri ve değerlendirme ölçütleri doğrultusunda yeniden eğitebilecek.
Thinking Machines Lab, Inkling’in kendi kendisini özelleştirdiği bir deney de gerçekleştirdi. Bu çalışmada modelden, yanıtlarında belirli bir harfi hiç kullanmayan özel bir sürümünü oluşturması istendi. Inkling; eğitim verisini ve değerlendirme yöntemini hazırladı, Tinker üzerinden ince ayar sürecini çalıştırdı, ortaya çıkan modeli test etti ve daha sonra yeni ağırlıklara geçiş yaptı.
Şirket bu örnekle, kullanıcıların yalnızca hazır bir modele komut vermek yerine modelin temel davranışlarını kalıcı biçimde değiştirebileceğini göstermeyi amaçlıyor. Bununla birlikte böyle bir özelleştirme süreci, ileri düzey makine öğrenimi bilgisi ve teknik altyapı gerektiriyor.
Açık ağırlıklı model yaklaşımı bazı sorumlulukları müşterilere de aktarıyor. Kuruluşların, modele uyguladıkları ince ayarların güvenli olduğundan ve ortaya çıkan sistemin hukuki veya etik gereklilikleri karşıladığından emin olması gerekiyor. Thinking Machines Lab, temel model için güvenlik testleri yaptığını belirtse de, üçüncü tarafların gerçekleştirdiği özelleştirmelerin sonuçlarından doğrudan şirketler sorumlu olacak.
Inkling’in öne çıkan özelliklerinden biri, kullanıcıların modelin bir görev için harcayacağı “düşünme çabasını” ayarlayabilmesi. Geliştiriciler, ihtiyaçlarına göre modelin daha hızlı ve daha az maliyetli çalışmasını veya daha uzun süre akıl yürüterek daha kapsamlı sonuç üretmesini tercih edebilecek.
Thinking Machines Lab’in testlerine göre Inkling, ajan tabanlı kodlama görevlerini ölçen Terminal Bench değerlendirmesinde Nvidia’nın açık ağırlıklı Nemotron 3 Ultra modeliyle aynı performansa yaklaşık üçte bir oranında daha az token kullanarak ulaşabiliyor. Ancak bu sonuçların şirket tarafından gerçekleştirilen testlere dayandığı ve bağımsız değerlendirmelerle doğrulanması gerektiği belirtiliyor.
Şirket ayrıca modeli siber güvenlik, kimyasal ve biyolojik riskler, silahlarla ilgili tehlikeli talepler, manipülasyon, savunmasız kullanıcılar ve insan kontrolünün kaybedilmesi gibi alanlarda test ettiğini belirtiyor. Şirket, dış güvenlik uzmanlarının da değerlendirme sürecine dahil edildiğini söylüyor.
Inkling’in eğitiminde tamamen Nvidia’nın GB300 NVL72 sistemleri kullanıldı. Thinking Machines Lab, mart ayında Nvidia ile yaptığı iş birliği kapsamında yeni nesil Vera Rubin altyapısından toplam bir gigavatlık bilgi işlem kapasitesi kurmayı planladığını açıklamıştı.
Böylesine büyük modellerin eğitilmesi ve çalıştırılması ciddi miktarda bilgi işlem kaynağı ve finansman gerektiriyor. Şirket, Inkling’in geliştirme maliyetini veya eğitim sürecinin toplam giderini açıklamadı.
Popüler İçerikler