Amazon Web Services (AWS), yapay zeka geliştiricilerinin şirketin kendi üretimi olan Trainium çiplerine geçişini kolaylaştırmak amacıyla TorchNeuron adlı yeni bir araç tanıttı. Açık kaynaklı yapay zeka geliştirme platformu PyTorch ile uyumlu çalışan TorchNeuron, geliştiricilerin mevcut kodlarını yeniden yazmadan yalnızca tek bir yapılandırma değişikliğiyle uygulamalarını Trainium çiplerinde çalıştırmasına olanak tanıyor. Amazon, yeni araçla Nvidia'nın yapay zeka donanımı pazarındaki güçlü konumuna karşı rekabetini artırmayı hedefliyor.
Yapay zeka modellerinin geliştirilmesi, eğitilmesi ve çalıştırılmasında yaygın olarak kullanılan PyTorch, Amazon'un paylaştığı verilere göre yapay zeka geliştiricilerinin yaklaşık %85'i tarafından tercih ediliyor. Nvidia ise CUDA adlı yazılım platformunu yıllardır PyTorch ile uyumlu hale getirerek geliştiricilerin kendi GPU'larını kullanmasını kolaylaştırıyor. Bu durum, Nvidia'nın yalnızca donanım performansıyla değil, oluşturduğu yazılım ekosistemiyle de pazarda önemli bir avantaj elde etmesini sağlıyor. Amazon, TorchNeuron ile geliştiricilerin Nvidia altyapısına olan bağımlılığını azaltmayı amaçlıyor.
Hem yapay zeka modellerinin eğitimi hem de çıkarım süreçlerinde kullanılabilen Trainium çiplerini destekleyen TorchNeuron, geliştiricilere AWS'nin bulut altyapısındaki diğer hizmetlere de erişim sunuyor. Amazon, bu entegrasyonun özellikle yapay zeka girişimlerinin altyapı maliyetlerini azaltabileceğini belirtiyor. Şirketin paylaştığı örneğe göre ses teknolojileri geliştiren Deepgram, Trainium çiplerine geçişin ardından harcadığı her dolar karşılığında %70 daha fazla ses verisi işleyebiliyor.
Amazon ayrıca TorchNeuron'un geliştirilmesi kapsamında PyTorch'un farklı donanım mimarileriyle daha bağımsız çalışabilmesini sağlayacak değişiklikleri açık kaynak topluluğuyla paylaşmayı planlıyor. Böylece geliştiricilerin belirli bir çip üreticisine bağlı kalmadan farklı donanım seçenekleri arasında geçiş yapabilmesi hedefleniyor. Şirket, bu yaklaşımın yapay zeka sektöründe rekabeti artırabileceğini ve geliştiricilere daha fazla esneklik sağlayabileceğini savunuyor.
Trainium2 ve Trainium3 çiplerini destekleyen TorchNeuron, 20 Ekim'de düzenlenen PyTorch Conference North America kapsamında ücretsiz ve açık kaynaklı olarak beta sürümüyle kullanıma sunuluyor. Robotik, ses teknolojileri, otonom araçlar ve yapay zeka modelleri geliştiren 30'dan fazla şirketin aracı erken erişim kapsamında kullanmaya başladığı belirtiliyor. Amazon'un yeni hamlesi, yapay zeka donanımı pazarındaki rekabetin yalnızca işlemci gücü ve maliyet üzerinden değil, geliştiricilerin kullandığı yazılım altyapıları üzerinden de şekillendiğini gösteriyor.
Popüler İçerikler