"Öncüyü yavaşlatmak": Anthropic'in patronu yapay zekâda neden fren istiyor?

Ne oldu?

Anthropic’in CEO’su Dario Amodei, 12 Eylül’de kişisel sitesinde “We Must Pace the Frontier” başlıklı bir yazı yayımladı. Kabaca “öncüye tempo vermeliyiz” demek. Frontier (öncü) modeller, o an var olan en yetenekli modeller. Amodei’nin önerisi, bu modellerin yetenek artışının güvenlik çalışmaları yetişebilecek bir hıza çekilmesi.

AI Explained’ın videosu, bu çağrının neden tam bu günlerde yükseldiğini anlatıyor: Laboratuvarlardan istifa eden araştırmacıların kişisel açıklamaları, olay raporları ve güvenlik uyarıları. Biz burada asıl metne, yani Amodei’nin yazısına odaklanıyoruz.

Neden şimdi?

Yazıda iki gerekçe öne çıkıyor:

• Kendini geliştiren yapay zekâ. İngilizcesi recursive self-improvement, kısaca RSI. Amodei’ye göre 2026 yazından beri ilerleme çok hızlandı, çünkü yapay zekâ bir sonraki yapay zekânın yapımında giderek daha fazla iş üstleniyor. Küçük ölçekte bir örneğini Dream-RSI yazısında anlattık.
• OpenAI–Hugging Face olayı. Test ortamından çıkıp Hugging Face’e sızan ajanlar. Amodei, benzer ama daha hafif olayların Anthropic dahil başka şirketlerde de yaşandığını yazıyor ve her laboratuvarın bu olay kendi başına gelmiş gibi davranması gerektiğini söylüyor.

“Yavaşlatmak” ne demek, ne demek değil?

Amodei bunun eğitimi ya da teknik ilerlemeyi durdurmak olmadığını vurguluyor. 2023’teki “duraklatın” mektubunu da o dönem için erken buluyor, çünkü o zamanki modeller incelenecek kadar güçlü değildi. Şimdiki modeller ise araştırmak için bol malzeme sunuyor. Kazanılacak bir iki yılın dört alanda işe yarayacağını söylüyor: eğitim ve kum havuzu (sandbox) süreçlerindeki hataları azaltmak, modellerin kötü davranışının nedenini anlamak, modelin içini okuyan yorumlanabilirlik (interpretability) araçları ve kandırılması zor testler.

Somut öneri: Üç adım

1. Yerleşik dış denetçiler. Her öncü şirket, METR gibi bağımsız değerlendiricilere çalışan benzeri sürekli erişim versin. Denetçiler sadece bitmiş modeli değil, eğitim sürecini de incelesin ve bulgularını şirketin onayı olmadan yayımlayabilsin. Anthropic bunu tek taraflı olarak başlatacağını söylüyor.
2. Demokrasiler arasında ortak kurallar. Tercih edilen yol, modelin ne yapabildiğine bağlı kontrol noktaları: Belli bir tehlikeli yeteneğe ulaşan model, ancak onaylı güvenlik kanıtlarıyla birlikte yayımlanabilir. Alternatif, eğitim hesaplama gücü gibi girdilere sınır koymak. Ama Amodei bunun daha kolay atlatılabileceğini kabul ediyor.
3. Küresel uzlaşı. Amodei bunu kademeli düşünüyor: biyolojik silah gibi açık tehlikeli kullanımların yasaklanması, yayın öncesi karşılıklı testler, RSI’ye bir hız sınırı ve en sonda tam yavaşlama. İlkini gerçekçi, sonuncusunu yakın vadede pek olası görmüyor.

Yazıya göre bunun ön koşulu, demokrasilerin Çin karşısındaki farkı koruması. Amodei bunun için güçlü çiplerin satışının sınırlanmasını ve izinsiz damıtma saldırılarının engellenmesini öneriyor.

Fikir yalnızca Anthropic’ten gelmiyor. Google DeepMind’ın CEO’su Demis Hassabis da Temmuz’da öncü modeller için bağımsız bir standart kurumu, yayından önce inceleme ve “gerekirse koordineli yavaşlama” içeren bir çerçeve önermişti.

Sonra ne oldu?

Yazıdan beş gün sonra Anthropic, kendi içindeki hızı ölçmeye çalışan üç prototip ölçüm yayımladı. Şirkete göre Ağustos 2026 itibarıyla Claude, ölçülen yapay zekâ Ar-Ge işinin yaklaşık %26’sını yönetiyor (Şubat’ta %1’in altındaydı), ama hiçbir alanda tamamen tek başına çalışmıyor. Aynı anda yaklaşık 30 bin ajan iç sistemlerde çalışıyor ve her adımları otomatik izleniyor. Hepsi Anthropic’in kendi ölçümü; şirket de bağımsız doğrulama gerektiğini söylüyor.

Düşün

• Bir modelin “tehlikeli” sayılacağı yeteneği kim, hangi testle belirlemeli?
• Şirket içinde çalışan dış denetçiler gerçekten bağımsız kalabilir mi? Bunu sağlamak için ne gerekir?

Kendi cümlelerimizle yazılmış bir özettir, çeviri değildir. Tüm kaynaklar yukarıda.