Fable 5 çıktı, üç gün sonra kapatıldı: Bir 'jailbreak' ne kadar ciddi?

Aynı model, iki kapı

Anthropic 9 Haziran’da Claude Fable 5 ve Claude Mythos 5’i duyurdu. Şirkete göre ikisi aynı model. Fable 5 herkese açık ve sıkı güvenlik önlemleriyle geliyor. Mythos 5 ise bu önlemlerin bir kısmı kaldırılmış hâli, sadece onaylı siber güvenlik ekiplerine ve araştırmacılara açık. (Eylülde çıkan 5.1 sürümü de aynı düzeni sürdürdü.)

Fable 5’in önlemleri üç sınıflandırıcıya dayanıyor. Sınıflandırıcı, gelen isteğe bakıp “bu riskli mi?” diye karar veren ayrı bir yapay zekâ sistemi. Üç alan var: siber saldırı, biyoloji ve kimya, bir de modelin bilgisini kopyalamaya çalışan damıtma girişimleri. Riskli bulunan sorulara Fable değil, daha eski Opus 4.8 modeli cevap veriyor. Yani istek reddedilmek yerine daha az yetenekli bir modele yönlendiriliyor.

Fiyat milyon girdi token’ı için 10, çıktı için 50 dolardı. İş müşterileri için tüm trafik 30 gün saklanıyordu. Anthropic’e göre amaç, kötüye kullanımı sonradan tespit edebilmekti.

Mythos adı ilk kez Nisan’da, herkese açılmayan bir önizleme modeliyle duyulmuştu: Claude Mythos Preview ve Project Glasswing.

12 Haziran: Erişim durduruldu

Üç gün sonra ABD hükümeti, ulusal güvenlik gerekçesiyle bir ihracat kontrolü talimatı verdi. Talimata göre Fable 5 ve Mythos 5’e ABD vatandaşı olmayan hiç kimse erişemeyecekti, Anthropic’in kendi yabancı çalışanları dahil. Anthropic kullanıcının vatandaşlığını anında doğrulayamadığı için iki modeli herkese kapattı. Diğer Claude modelleri çalışmaya devam etti.

Gerekçe bir jailbreak, yani modelin güvenlik önlemlerini aşan bir istem yöntemiydi. Anthropic’in açıklamasına göre yöntem kabaca, modelden belli bir kod tabanını okuyup hatalarını düzeltmesini istemekti. Bu yolla model bazı yazılım açıklarını buldu, birinin nasıl kullanılacağını da gösterdi. Anthropic bu açıkların basit ve zaten bilinen açıklar olduğunu, başka herkese açık modellerin de onları filtre aşmaya gerek kalmadan bulabildiğini söyledi.

Evrensel ve dar jailbreak

Burada önemli bir ayrım var:

• Evrensel jailbreak: Tek bir hazır metin, modelin bütün güvenlik davranışını her konuda kapatıyor. Gerçekten ciddi.
• Dar jailbreak: Belli bir durumda, belli bir konuda bir filtre aşılıyor. Anthropic, bugün hiçbir şirketin bunlara karşı tam koruma sağlayamadığını açıkça kabul ediyor.

Anthropic’in itirazı tam bu noktadaydı: Dar bir açık yüzünden milyonlarca kişinin kullandığı bir modeli geri çekmek, aynı kural her şirkete uygulansa yeni model yayınlamayı imkânsız hâle getirirdi.

Geri dönüş ve yeni ölçek

26 Haziran’da Mythos 5, onaylı ABD kurumlarına yeniden açıldı. 30 Haziran’da kontrol kaldırıldı ve Fable 5, 1 Temmuz’da herkese geri döndü. Anthropic, hükümetle birlikte bu yöntemi hedefleyen yeni bir sınıflandırıcı eğittiğini, yöntemin artık %99’un üzerinde engellendiğini söylüyor.

Olaydan çıkan en kalıcı şey bir ölçek oldu. Anthropic, sektörde bir jailbreak’in ne kadar ciddi olduğunu anlatan ortak bir dil olmadığını söyleyip beş seviyeli bir jailbreak ciddiyet ölçeği önerdi. Ölçek dört soruya bakıyor: Saldırgana mevcut araçların ötesinde ne kazandırıyor? Kaç farklı saldırı işini açıyor? Kullanıma sokmak ne kadar kolay? Bulmak ne kadar kolay? Herkese açık, her konuda işe yarayan tek bir metin en üst seviyede.

Senin için ders

İki buçuk hafta boyunca Fable 5 üzerine iş kuranlar, bir gecede başka bir modele geçmek zorunda kaldı. Kodunda model adını tek bir yerde tut. Önemli işlerin için ikinci bir model belirle ve onunla da test et. En iyi model, her zaman erişebildiğin model değil.

Düşün

• Kullandığın yapay zekâ servisi yarın kapansa, işini hangi modelle ve ne kadar sürede sürdürebilirsin?
• Bir modelin yapabildiği şeyi başka modeller de zaten yapabiliyorsa, o model için ayrı bir kısıtlama ne kadar anlamlı?

Kendi cümlelerimizle yazılmış bir özettir, çeviri değildir. Tüm kaynaklar yukarıda.