Bu neden önemli?
Uzun düşünme, hem daha çok para hem daha uzun bekleme demek. Modelin daha akıllı olması ile daha uzun düşünmesi aynı şey değil. Bu farkı görmek, yapay zekâyı verimli kullanmanın anahtarı.
“Akıl yürüten” modeller ne yapıyor?
Son yılların büyük yeniliklerinden biri akıl yürüten (reasoning) modeller. Bu modeller cevabı hemen vermez. Önce kendi kendine düşünür: Adımları sıralar, varsayımları dener, hesabı kontrol eder. Bu düşünme adımlarına düşünme token’ları deniyor. (Token, modelin ürettiği en küçük metin parçası, kabaca bir kelime.) Bu yöntem, eski modellerin çözemediği zor problemleri çözebiliyor.
Sorun: Aşırı düşünme
Ama bir sorun var. Bu modeller çoğu zaman gerektiğinden çok düşünüyor. BottleCap AI’ın yazısına göre, basit bir soru bile binlerce düşünme token’ı tetikleyebiliyor: Model zaten kurduğu bir varsayımı tekrar tekrar gözden geçiriyor, aynı argümanı yeniden kuruyor, bazen döngüye giriyor, çözmekten çok açıklamakla vakit harcıyor.
Bunun bedeli var:
- Daha çok para. Modeller ürettikleri token başına ücretlendiriliyor. Boşa harcanan her düşünme adımı faturaya yansıyor.
- Daha uzun bekleme. Model ne kadar çok düşünürse cevabı o kadar geç geliyor.
- Daha çok hata fırsatı. Uzun düşünme zincirleri döngüye takılıp yanlış yere de sapabiliyor.
BottleCap’in dikkat çektiği nokta şu: Uzun düşünme zamanla “zekâ” ile eşitlendi. Oysa çoğu zaman verimsizliğin işareti.
ThinkingCap ne yapıyor?
ThinkingCap, Qwen3.6-27B adlı açık bir modelin ince ayardan (fine-tuning) geçirilmiş hali. İnce ayar, hazır bir modeli belli bir davranışa doğru eğitmek demek. BottleCap’in hedefi ilginç: Modeli daha akıllı yapmak değil. Sadece bir cevaba ulaşırken harcadığı düşünmeyi azaltmak. Bilgisi, konuşma tarzı, doğruluğu aynı kalsın; sadece daha az “gevezelik” etsin.
Bunu, eğitimde sadece doğru cevabı değil, verimli düşünmeyi ödüllendirerek yaptıklarını söylüyorlar. Model, yeterince bilgiye ulaştığında durmayı öğreniyor.
Sonuçlar (şirketin ölçümüne göre)
BottleCap’in yayınladığı rakamlar dikkatli okunmayı hak ediyor, çünkü bunlar şirketin kendi testleri:
- Çeşitli testlerde düşünme token’ları ortalama yaklaşık %46 azalıyor. Bazı ağır testlerde düşüş %60’ı geçiyor.
- Buna karşılık doğruluk neredeyse hiç değişmiyor. Ortalama fark yaklaşık 0,7 puan.
Şirket, sadece “daha az düşün” demenin genelde yeteneği de düşürdüğünü, kendilerinin bunu önlemeye çalıştığını vurguluyor. Ölçümü daha dürüst yapmak için, aynı soruda iki modeli kıyaslayan bir yöntem kullandıklarını da anlatıyorlar. Yine de bunlar bağımsız değil, üreticinin kendi sonuçları.
Model, izin veren bir lisansla (Apache 2.0) herkese açık. Qwen kullanan biri, kendi kurulumunda modeli bununla değiştirip deneyebilir.
Asıl ders
ThinkingCap’in kendisi kadar önemli olan, altında yatan fikir: Bir modelin uzun uzun düşünmesi onu haklı ya da akıllı yapmıyor. Bazı işler için hızlı ve kısa bir cevap, uzun bir düşünme zincirinden daha değerli. Yapay zekâyı seçerken sadece “ne kadar zeki” değil, “bu iş için ne kadar verimli” diye de sormak gerekiyor.
Düşün
- Bir soruya uzun uzun düşünüp cevap vermekle, hızlıca doğru cevabı vermek arasında sen hangi durumda hangisini tercih edersin?
- Bir yapay zekânın uzun uzun “düşünmesi” sana daha çok güven veriyor mu? Bu his ne kadar doğru?
Bu yazıdaki araçlar Araç Kutusu'nda: ThinkingCap