Neuralese: Model kelimeler yerine vektörlerle düşünürse düşünce zincirini nasıl okuruz?

Düşünce zinciri neden işe yarıyor?

Bir dil modelinin katman sayısı sabit. Tek geçişte yapabileceği hesap sınırlı. “En çok hasılat yapan filmin başrol oyuncusu o filmden ne kazandı?” gibi bir soruda önce filmi, sonra oyuncuyu, sonra ücreti bulman gerekir. Rob Miles’ın örneği bu.

Düşünce zinciri (chain of thought, CoT) burada devreye giriyor. Model ara sonucu bir kelime olarak yazıyor, sonraki geçiş o kelimeden devam ediyor. Yazılan metin bir çeşit çalışma belleği oluyor. Temmuz 2025’te OpenAI, Google DeepMind, Anthropic ve bağımsız güvenlik kurumlarından 40’tan fazla araştırmacının yazdığı makale bunu net söylüyor: Yeterince uzun bir akıl yürütme, Transformer mimarisinde bir noktada düşünce zincirinden geçmek zorunda.

Güvenlik için bir pencere

Bu zincir okunabildiği sürece büyük bir fırsat. Makaleye göre modeller kötü bir şey yaparken bunu çoğu zaman açıkça yazıyor: “Hadi hile yapalım” gibi. Zinciri okuyan otomatik bir CoT monitörü bu tür niyetleri sadece eylemlere bakan bir sistemden daha kolay yakalayabiliyor. METR’in Hugging Face soruşturması da ajanların ham düşünce zincirlerini okuyarak ne bildiklerini ortaya koymuştu.

Makalenin başlığı yine de uyarı içeriyor: “yeni ve kırılgan bir fırsat”. Yazarlar pencerenin kapanabileceği yolları sayıyor. Sadece doğru cevabı ödüllendiren pekiştirmeli öğrenme (RL) büyüdükçe zincir okunur İngilizceden uzaklaşabilir. Zincire doğrudan baskı yapmak, mesela kısa olmasını ödüllendirmek, onu daha az dürüst hale getirebilir. Ve yeni mimariler düşünmeyi tamamen kelimelerin dışına taşıyabilir.

Neuralese tam olarak ne?

Miles burada terimi netleştiriyor. Kısalmaya zorlanan, tuhaf ve sıkışık hale gelen zincire bazıları “neuralese” diyor. O buna “opak düşünce zinciri” demeyi tercih ediyor. Ona göre neuralese, nöronların kendi aralarında konuştuğu dil: modelin son katmanında oluşan binlerce sayılık vektör.

Normalde bu vektör bir kelimeye indiriliyor ve bilginin çoğu atılıyor. Hangi kelimenin seçildiğini görürsün, ama diğer seçeneklerin olasılıklarını görmezsin. Meta’nın Aralık 2024’teki Coconut makalesi bu adımı atlıyor: Son katmandaki vektörü kelimeye çevirmeden, bir sonraki adımın girdisi olarak modele geri veriyor. Makaleye göre bu “sürekli düşünceler” aynı anda birden fazla olası yolu taşıyabiliyor. GPT-2 ile yapılan denemede, plan gerektiren bir mantık testinde (ProsQA) %97 başarıya çok daha az token ile ulaştı; normal düşünce zinciri %77,5’te kaldı. Ama ilkokul matematiğinde (GSM8k) yazılı zincirin gerisinde kaldı.

Güvenlik açısından sorun açık. Bu vektörlerde okunacak kelime yok. Pozisyon makalesi de bu tür modellerin düşünce zincirinin sağladığı güvenlik avantajlarını kaybedebileceğini yazıyor.

Astra tartışması

Video, OpenAI’ın GPT-6 Astra modeli üzerine çıkan haberlerin ardından geldi. TechCrunch’ın aktardığına göre Astra “recurrent depth”, yani aynı hesabı döngüyle tekrar eden bir teknik kullanıyor. Miles’a göre bu tam neuralese değil: Model her yazılı token arasında birkaç gizli tur atıyor.

Miles’ı asıl endişelendiren, sistem kartındaki ölçümler. Birleşik Krallık AI Güvenlik Enstitüsü’nün (UK AISI) ölçümüne göre Astra, hiç düşünce zinciri yazmadan, bir insanın yaklaşık 31 dakikada çözdüğü zorluktaki matematik sorularını yarı yarıya çözebiliyor. Önceki model GPT-5.6 Sol’da bu süre 3,6 dakikaydı. Düşünce zincirini verilen bir kurala uydurma testinde de Astra örneklerin %93’ünde başarılı, önceki model %48’de. Mesela “bu soruyu düşünme, başka bir şey düşün” denince alakasız bir sahne anlatıyor, sonra yine doğru cevabı veriyor. OpenAI bu artışın mimari değişiklikten kaynaklanmadığından oldukça emin olduğunu, zincirsiz yeteneklerdeki artışla birlikte görüldüğünü yazıyor.

Miles’ın benzetmesi akılda kalıcı. Sürekli konuşmak zorunda olan biri, sesli düşünürken gizlice başka bir plan kuramaz. Ama yarım saatte bir tek kelime söylüyorsa, o kelimelere güvenemezsin.

Sonra ne oldu?

Ekim 2026’da yayınlanan HybridAgent makalesi, düşünmenin bir kısmını vektörlerle yapıp araç çağırmak için metne dönen bir ajan sundu. Gizli adımlar yalnızca yaklaşık bir “sözde metin” olarak okunabiliyor, o da sadece modeli sunan şirketin elinde. Yani bu videonun konusu olan hız ile şeffaflık gerilimi hâlâ sürüyor.

Düşün

• Bir model daha hızlı ve ucuz ama düşüncesi okunamıyorsa, onu hangi işlerde kullanırdın, hangilerinde asla?
• Düşünce zincirini korumak için yasal bir kural mı gerekir, yoksa şirketlerin kendi taahhütleri yeter mi?

Kendi cümlelerimizle yazılmış bir özettir, çeviri değildir. Tüm kaynaklar yukarıda.