← Radar

Konu: Yerel AI3 dk okuma

Gemma 4: Google'ın açık modelleri Apache 2.0'a geçti, küçükler telefona sığıyor

Bu neden önemli?

Bir modeli ürüne koymadan önce iki soru sorarsın: Cihazıma sığar mı, lisansı izin verir mi? Gemma 4 ikisinde de çıtayı değiştirdi. Ayrıca adındaki 'E' harfi, modellerin belleği nasıl kullandığına dair öğretici bir fikri taşıyor.

Ne çıktı?

Google 2 Nisan 2026’da Gemma 4’ü duyurdu. Gemma, şirketin ağırlıklarını herkese açtığı model ailesi. Google’a göre bu sürüm Gemini 3 ile aynı araştırmadan çıktı. Dört boyut var:

  • E2B ve E4B: Telefon, Raspberry Pi ve NVIDIA Jetson Orin Nano gibi küçük cihazlar için. İnternetsiz çalışıyor, metnin yanında resim ve ses de anlıyor. Bağlam penceresi 128 bin token.
  • 26B A4B: Bir uzmanlar karışımı (MoE) modeli. 25 milyar parametresinin her adımda sadece 3,8 milyarı çalışıyor, bu yüzden hızlı.
  • 31B: Yoğun (dense) model. En yüksek kaliteyi ve ince ayar için sağlam bir temeli hedefliyor. Google’a göre sıkıştırılmamış hâli tek bir 80 GB’lık H100 ekran kartına sığıyor, sıkıştırılmış sürümleri ev ekran kartlarında çalışıyor.

Büyük modellerde bağlam 256 bin token. Hepsi 140’tan fazla dille eğitildi, fonksiyon çağırma (function calling) ve yapılandırılmış JSON çıktısını doğrudan destekliyor. Sistem istemine özel bir token ekleyince model cevap vermeden önce “düşünme” adımı da yapıyor. Google’ın duyurusuna göre 31B, çıkış gününde Arena’nın metin sıralamasında açık modeller arasında üçüncüydü.

Lisans: Neden bu kadar konuşuldu?

Önceki Gemma sürümleri Google’ın kendi Gemma Kullanım Şartları’yla geliyordu. Bu şartlar ticari kullanıma izin veriyordu ama bazı bağlar koyuyordu: Ayrı bir yasaklı kullanım politikası vardı, modeli ya da ondan türettiğin bir modeli dağıtırsan bu kısıtları kendi kullanıcılarına da aktarman gerekiyordu, Google da şartlara aykırı bulduğu kullanımı kısıtlama hakkını saklı tutuyordu. Şirket hukukçuları bu tür özel lisanslara temkinli bakar.

Gemma 4 ise Apache 2.0 ile geldi. Bu, yazılım dünyasının yıllardır bildiği, ticari kullanıma, değiştirmeye ve yeniden dağıtmaya serbestçe izin veren standart bir lisans. Google gerekçe olarak geliştiricilerden gelen geri bildirimi ve veriyi, altyapıyı kendi kontrolünde tutmak isteyen kurumları gösterdi. Fireship de bunu Meta’nın Llama lisansıyla karşılaştırıyor: Orada çok büyüyen şirketler için ek şartlar var.

Yine de bir şeyi unutma: Apache 2.0 ağırlıkları serbest bırakıyor, eğitim verisini ya da tarifini değil. Bu farkı açık ağırlıklı modeller yazımızda anlattık.

“E” harfi ne demek?

E2B’deki E, effective, yani “etkin” parametre demek. Model kartına göre E2B’nin embedding tablolarıyla birlikte toplam 5,1 milyar parametresi var. Ama hesapta kullanılan ve hızlı belleğe yüklenmesi gereken kısım 2,3 milyar.

Farkı Per-Layer Embeddings (PLE) yaratıyor. Normal bir modelde her token girişte bir kez sayılara çevrilir, bu bilgi bütün katmanlar boyunca taşınır. PLE’de ise her katmanın, her token için kendine ait küçük bir vektörü var. Katman, token’ın kim olduğunu tam ihtiyaç duyduğu anda yeniden hatırlıyor. Bu vektörler dev bir tabloda duruyor ama tabloyla hesap yapılmıyor, sadece içinden birkaç satır okunuyor. Maarten Grootendorst’un görsel rehberine göre bu yüzden tablo ekran kartı belleği yerine daha yavaş ve ucuz bellekte kalabiliyor. Aynı fikri 8 dolarlık bir çipe dil modeli sığdıran projede de gördük (belleğe sığmayan modeller).

Videolarda nasıl çıktı?

Better Stack, E2B ve E4B’yi internet kapalı bir MacBook’ta küçük bir kafe sitesi yazdırarak denedi. Videoya göre E2B’nin sonucu zayıftı: Görev listesini dosyaların sonuna ekledi, yazmadığı bir JavaScript dosyasını yazdım dedi. E4B daha yavaş ama belirgin şekilde iyiydi, sepet özelliği bile çalıştı. Fireship ise 31B’yi tek bir RTX 4090’da yaklaşık 20 GB’lık bir indirmeyle saniyede 10 token civarında çalıştırdı. İkisinin ortak sonucu: Küçük modeller ciddi kodlama için değil. Ama cihazda çalışan sınıflandırma, metin okuma (OCR) ya da kendi verinle ince ayar için iyi bir aday.

Sonra ne oldu?

Haziran’da aileye beşinci bir üye katıldı: Resim ve sesi ayrı bir kodlayıcı olmadan okuyan Gemma 4 12B. Onu Gemma 4 12B yazımızda anlattık. 12B de Apache 2.0 lisanslı.

Düşün

  • Bir modeli ürününe koymadan önce lisansında neye bakarsın?
  • Telefonunda internetsiz çalışan 2 milyar parametrelik bir model hangi işi senin için yapabilirdi?

Videoyu izle

Tıklayınca video YouTube'dan yüklenir; o ana kadar bu sayfa YouTube'a hiçbir istek göndermez.
Kaynaklar (8, İngilizce)

Kendi cümlelerimizle yazılmış bir özettir, çeviri değildir. Tüm kaynaklar yukarıda.

Konu: Yerel AI3 dkVideo: Better Stack

Gemma 4 12B: Resmi ve sesi 'tercümansız' anlayan model

Google'ın Gemma 4 12B modeli, görüntü ve ses için ayrı kodlayıcı (encoder) kullanmıyor. Ham piksel ve ses dalgası tek bir ince katmanla doğrudan dil modeline giriyor. Sonuç: 16 GB belleği olan bir dizüstünde çalışan, resim ve ses anlayan bir model.