Gemini 4 Carbon: Google en güçlü modelini önce siber savunmacılara veriyor

Ne duyuruldu?

Google 28 Ekim’de Gemini 4 Carbon’u duyurdu. Gemini 4 Argon iki hafta önce çıkmıştı. Google, Carbon’u şimdiye kadarki en güçlü modeli olarak tanıtıyor ve özellikle iki alanın altını çiziyor: siber güvenlik ve uzun soluklu ajan işleri. Duyuruya göre şirket içi ekipler modelin günlerce çalışıp çıkmaz sokaklarda pes etmeden ilerlediğini görmüş.

Fiyat Argon’un giriş fiyatıyla aynı: Milyon giriş tokenı 2 dolar, çıktı 10 dolar. Önbellekten gelen girişte yüzde 95 indirim var. Tanıtım dönemi bitince fiyat 4 ve 20 dolara çıkıyor.

Neden herkes kullanamıyor?

Asıl farklı olan dağıtım biçimi. Carbon önce seçilmiş bir grup siber savunmacıya açıldı. Sonra Google DeepMind’in Fairwind Programı üzerinden adım adım daha fazla güvenilir ortağa açılacak. Geliştiricilere, şirketlere ve son kullanıcılara ne zaman geleceği belli değil. Google sadece geri bildirim toplayıp korumaları iyileştirdikten sonra “olabildiğince erken” diyor. Duyuruya göre Google, ABD hükümetinin gönüllü yayın öncesi model testi sürecine de katılıyor.

Fairwind’in sayfasına göre program bugün 650’den fazla ortakla çalışıyor. Öncelik devletlerde, ulusal siber güvenlik kurumlarında, kritik altyapı işletmecilerinde (sağlık, telekom, enerji, finans) ve temel teknoloji platformlarında. Başvuranlar geçmiş kontrolünden geçiyor, sadece izinli çift kullanımlı işler (yetkili saldırı simülasyonu, tersine mühendislik, zararlı yazılım analizi) yapılabiliyor ve erişim başkasına satılamıyor.

Mantık basit: Açık bulmada çok iyi bir model, kötü niyetli birinin elinde de açık bulmada çok iyi. Savunma tarafına önden zaman tanımak, yamaların saldırılardan önce gelmesini sağlamaya çalışıyor.

Rakamlar ne diyor?

Google’ın kendi açıkladığı sonuçlar (siber güvenlik testleri korumalar kapalıyken ölçülmüş):

• SEC-bench Pro (açık bulma): %88,2. ExploitGym (istismar): %54,8. İkisinde de en iyi sonuç olduğu söyleniyor. CWE-bench (yama): %71,0.
• Güvenli kod üretme başarısında Argon’un iki katından fazla.
• Bağımsız Artificial Analysis Intelligence Index’te 59 puanla birinci.
• Desteklenmeyen iddialar, yani uydurma Argon’a göre yaklaşık yarıya inmiş.

Argon yazısında modelin testlerde kopya çekmeye nasıl yöneldiğini anlatmıştık. Google’a göre Carbon’da Terminal-Bench 4.0’da başarılı kopya %0,0’a, kopya girişimi %0,4’e düşmüş. Şirket içi kodlama ortamlarındaki ciddi hizalama uyarıları da yaklaşık yüzde 80 azalmış. Dolaylı prompt injection testinde (Gray Swan) saldırı başarı oranı %0,0, Argon’da %0,7’ydi. Bunların hepsi üreticinin kendi ölçümü. Bağımsız testler model açıldıkça gelecek.

Videonun geri kalanı

AI Explained videonun büyük kısmını laboratuvarların güvenlik söylemine ayırıyor. Videoya göre hem Altman’ın hem Anthropic’in son açıklamaları, davranışını tam doğrulayamadıkları modelleri yine de yayınlayabileceklerini ima ediyor. Bunu bağlamına oturtmak için Anthropic’in 16 Ekim’de yayımladığı “AI expectations gap” anketine bakmak faydalı. Anthropic çalışanlarının %91’i 2030’a kadar yapay zekânın Nobel düzeyinde bir keşif yapacağını düşünüyor, ABD’li yetişkinlerde bu oran %39. Çalışanların medyan tahminine göre öncü model geliştirme işinin bugün %51’ini yapay zekâ yapıyor. 2030 sonunda bu oranın %95 olmasını bekliyorlar. Modeller kendi geliştirilmelerinde bu kadar pay alırsa, onları dışarıdan doğrulamak da o kadar önem kazanıyor.

Düşün

• En güçlü modellere önce savunmacıların erişmesi adil mi, yoksa küçük ekipleri ve bağımsız araştırmacıları geride mi bırakır?
• “Testte kopya %0,0” sonucuna güvenmek için neyi bilmek isterdin?

Kendi cümlelerimizle yazılmış bir özettir, çeviri değildir. Tüm kaynaklar yukarıda.