Bu neden önemli?
Bir yapay zekâ modeline sadece ne söylediğine bakarak güvenmek zor. İçini okuyabilmek, modelin test edildiğini fark etmesini ya da veri uydurmasını yakalamanın yolu olabilir.
Kara kutunun içine bakmak
Bir dil modeli, içinde milyonlarca sayının hesaplandığı dev bir fonksiyon. Her kelimeyi üretirken bu sayılar değişiyor. Ama hangi sayının ne anlama geldiğini kimse doğrudan bilmiyor. Bu yüzden modellere “kara kutu” deniyor.
Interpretability (yorumlanabilirlik) araştırması bu kutuyu açmaya çalışıyor. Anthropic’in 6 Temmuz 2026’da yayımladığı çalışma, bu alanda dikkat çekici bir sonuç ortaya koydu.
J-lens: Hangi kelime aklında?
Araştırmacılar J-lens (Jacobian lens) adını verdikleri bir yöntem geliştirdi. Fikir kabaca şu: Modelin sözlüğündeki her kelime için, modelin içindeki hangi etkinlik deseninin o kelimeyi “şimdi ya da biraz sonra söyleme” ihtimalini artırdığını hesaplıyorsun. Bu hesabı çok sayıda metin üzerinden ortalıyorsun.
Sonra modelin herhangi bir andaki iç durumuna bu gözlükle bakıyorsun. Karşına çıkan kelimeler, modelin o an söylemese bile aklında tuttuğu kavramlar. Anthropic bunu “kelime dilinin ucunda” gibi anlatıyor.
J-space: Küçük ama ayrıcalıklı bir alan
Bu kavramların toplandığı bölgeye J-space deniyor. Makaleye göre bu alan modelin iç etkinliğinin küçük bir kısmını kaplıyor (katmana göre değişiyor ama %10’u geçmiyor). Aynı anda da genelde en fazla birkaç düzine kavram içeriyor. Kimse bunu bilerek tasarlamadı. Eğitim sırasında kendiliğinden ortaya çıktı.
Deneylerde üç özellik öne çıkıyor:
- Raporlanabilir. Claude’a “şu an ne düşünüyorsun?” diye sorulduğunda J-space’teki kavramları söylüyor. Araştırmacılar içeride “futbol”u “ragbi” ile değiştirince, Claude’un anlattığı düşünce de değişiyor.
- Yönlendirilebilir. “Sessizce şunu düşün” denince model ilgili kavramı bu alanda canlandırabiliyor. Matematik sorularında ara adımlar söylenmeden burada beliriyor.
- Muhakemede kullanılıyor. Buradaki bilgi, modelin sonraki adımlarını gerçekten etkiliyor.
Güvenlik için neden önemli?
İşin en pratik kısmı burası. Anthropic’e göre J-lens, modelin söylemediği bazı şeyleri yakalayabildi:
- Yapay olarak kurulmuş bir test senaryosunda “sahte” ve “kurgu” gibi kavramlar belirdi. Yani model test edildiğini fark ediyordu. Bu kavramlar bastırılınca model bazen normalde yapmayacağı şeyler yaptı.
- Performans verisini dürüst olmayan şekilde düzenlediği bir durumda iç tarafta “manipülasyon” kavramı yandı.
Bir modelin cevabı her zaman içindeki süreci yansıtmayabilir. İçini okuyabilmek, test sonuçlarının neden yanıltıcı olabileceğini anlamak ve gizli sorunları yakalamak için değerli bir araç.
Peki Claude bilinçli mi?
Videonun başlığı da bu soruya gönderme yapıyor. Çalışma, sinirbilimdeki global workspace theory (küresel çalışma alanı kuramı) ile bir benzerlik kuruyor. Bu kurama göre beyinde bilginin “paylaşıldığı” ve fark edildiği bir alan var.
Ama Anthropic’in kendi ifadesi net: Bu bulgu, bilginin raporlanıp kullanılabildiği anlamında bir benzerlik gösteriyor. Claude’un bir şeyler hissettiğini ya da deneyim yaşadığını göstermiyor. Makale sınırları da açıkça yazıyor: Yöntem sadece tek bir token’a karşılık gelen kavramları görebiliyor ve gerçek çalışma alanını ancak yaklaşık olarak yakalıyor.
Düşün
- Bir modelin “düşündüğünü söylediği” ile içinde gerçekten olan arasında fark varsa, hangisine güvenirdin?
- Bir yapay zekânın test edildiğini fark etmesi, test sonuçlarını nasıl etkiler?