Google, yeni yapay zeka modeli Gemma 4 12B’yi tanıttı. Geliştirici topluluğu tarafından yoğun ilgi gören ve bugüne kadar 150 milyondan fazla indirme sayısına ulaşan Gemma serisinin bu yeni üyesi, dizüstü bilgisayarlarda çalışabilecek şekilde tasarlandı.
Model, taşınabilir cihazlar için optimize edilen E4B sürümü ile daha büyük mimariye sahip 26B Mixture of Experts modeli arasındaki boşluğu doldurarak düşük bellek tüketimiyle yüksek performans sunmayı amaçlıyor. Yeni modelin en dikkat çekici özelliklerinden biri, harici çoklu modlu kodlayıcılara ihtiyaç duymayan birleşik mimarisi oluşturuyor.
Geleneksel modellerin aksine, görsel ve sesli girdileri işlemek için ayrı kodlayıcılar kullanmak yerine verileri doğrudan dil modelinin ana omurgasına aktarıyor. Görsel girdiler hafif bir gömme modülüyle işlenirken, ses sinyalleri de doğrudan metin belirteçleriyle aynı boyutsal alana yansıtılıyor. Mimari değişiklik, yerel cihazlardaki gecikme sürelerini ve bellek kullanımını azaltmaya yardımcı oluyor. Ayrıca çoklu jeton tahmini özellikli taslak hazırlayıcı desteğiyle işlem hızının artırılması hedefleniyor.
Gemma 4 12B, gelişmiş muhakeme yetenekleri sayesinde karmaşık ve çok aşamalı iş akışlarını yürütebilme kapasitesine sahip. Model, 16GB birleşik bellek veya VRAM barındıran tüketici sınıfı dizüstü bilgisayarlarda tamamen çevrimdışı olarak çalışabiliyor ve sesli girdileri internet bağlantısına ihtiyaç duymadan yazıya dökme, biçimlendirme ve çevirme gibi işlemleri gerçekleştirebiliyor.
Apache 2.0 lisansıyla açık kaynaklı olarak erişime açılan model; Hugging Face, Kaggle, LM Studio ve Ollama gibi platformlar üzerinden indirilebiliyor. Geliştiriciler, yerel çıkarım süreçleri ve model entegrasyonu için llama.cpp, MLX ve vLLM gibi popüler araçları kullanabilirken, bulut tabanlı üretim ortamları için Google Cloud altyapısından da yararlanabiliyor.
Popüler İçerikler