Token'dan ajana: Yapay zekâ konuşmalarındaki 16 kavram, sırayla

Temel: Model nedir?

1. LLM (büyük dil modeli): Kendisine verilen metne bakıp bir sonraki parçanın ne olacağını tahmin eden program. Sohbet, kod yazma, özetleme… Hepsi bu tek becerinin art arda tekrarlanmasından çıkıyor.

2. Token: Modelin okuduğu ve yazdığı en küçük parça. Bazen bir kelime, bazen kelimenin bir parçası. Metni bu parçalara bölen programa tokenizer deniyor. Türkçe gibi eklerle uzayan dillerde bir kelime çoğu zaman birkaç token tutar. Fiyatlar ve bağlam sınırları da token ile ölçülüyor.

3. Ağırlık ve parametre: Model, içinde milyarlarca sayı barındıran dev bir hesap makinesi. Bu sayılara ağırlık ya da parametre deniyor. “70 milyar parametreli model” dendiğinde kastedilen bu sayıların adedi. Eğitim, bu sayıları doğru ayarlama işi.

4. Çıkarım (inference): Eğitilmiş modeli kullanma anı. Sen soru soruyorsun, model ağırlıklarıyla hesap yapıp cevap üretiyor. Her sohbet bir çıkarımdır.

Model nasıl öğreniyor?

5. Transformer ve attention: Bugünkü dil modellerinin çoğunun mimarisi transformer. 2017’de Google araştırmacılarının yayınladığı “Attention Is All You Need” makalesiyle tanındı. İçindeki attention (dikkat) mekanizması, her kelimenin cümledeki diğer kelimelere ne kadar “bakacağını” hesaplıyor. “Çay” kelimesi “demledim” ile aynı cümledeyse içecek, “kenarında yürüdük” ile aynı cümledeyse akarsu. Model bunu, kelimenin çevresine bakarak anlıyor.

6. Ön eğitim (pre-training): Modele internet ölçeğinde metin gösterilip “sıradaki token ne?” sorusunun milyarlarca kez sorulduğu aşama. En pahalı kısım bu.

7. Geri yayılım (backpropagation): Model yanlış tahmin yaptığında, hatanın her ağırlığa ne kadar payı olduğunu hesaplayıp ağırlıkları biraz düzelten yöntem. Öğrenmenin matematiği bu. Geri yayılım olmadan eğitmeyi deneyen bir yöntemi Dust yazısında anlattık.

8. İnce ayar (fine-tuning): Hazır bir modeli daha küçük, özel bir veriyle eğitmeye devam etmek. Mesela genel bir modeli tıbbi metinlere ya da şirketinin yazım diline alıştırmak.

9. RLHF: İnsan geri bildirimiyle pekiştirmeli öğrenme. İnsanlar modelin cevaplarını karşılaştırıp hangisinin daha iyi olduğunu seçiyor. Model, beğenilen cevaplara benzer şeyler üretmeyi öğreniyor. OpenAI’ın 2022’deki InstructGPT çalışması bu yöntemi yaygınlaştırdı. Ham bir modeli yardımsever bir asistana çeviren adımlardan biri bu.

Transformer ve geri yayılım gibi fikirlerin nereden geldiğini Turing’den GPT-3’e 10 makale yazımızda anlattık.

Modeli ucuzlatmak

10. LoRA: Bütün ağırlıkları yeniden eğitmek yerine, modelin yanına çok küçük ek parçalar takıp sadece onları eğitme yöntemi. LoRA makalesine göre GPT-3 örneğinde eğitilmesi gereken parametre sayısı yaklaşık 10 bin kat azaldı. Sıradan bir ekran kartında ince ayar yapmayı mümkün kılan şey çoğu zaman bu.

11. Quantization (niceleme): Ağırlıkları daha az bitle saklamak. 16 bitlik bir sayı yerine 8, 4, hatta 1,58 bit. Model küçülüyor, daha az bellekle ve daha hızlı çalışıyor. Karşılığında biraz doğruluk kaybı olabiliyor. Bilgisayarında model çalıştırıyorsan büyük ihtimalle nicelenmiş bir sürüm kullanıyorsun. “1,58 bit”in nereden geldiğini Parakeet Redux yazımızda anlattık.

Modeli baştan 4 bitle eğitmenin nasıl yapıldığını NVFP4 yazısında anlattık. Bir modeli 2 bite kadar sıkıştırınca hangi becerilerin korunup hangilerinin kaybolduğunu Saluki 27B yazısında inceledik.

Modeli dünyaya bağlamak

12. Embedding: Bir metni, anlamını temsil eden uzun bir sayı listesine çevirmek. Anlamca yakın metinlerin sayıları da birbirine yakın çıkıyor.

13. Vektör veritabanı: Bu sayı listelerini saklayıp “buna en çok benzeyenleri getir” sorusuna hızlı cevap veren veritabanı.

14. RAG: “Getirerek zenginleştirilmiş üretim.” Model cevap vermeden önce, sorunla ilgili belgeler bir veritabanından bulunup modele veriliyor. Model böylece eğitimde görmediği güncel ya da şirkete özel bilgiyle cevap verebiliyor. İyi bir RAG sisteminin nasıl kurulduğunu RAG yazımızda anlattık.

15. Tool calling ve MCP: Model sadece metin üretir. Ama “şu fonksiyonu şu bilgilerle çağır” diye bir çıktı verebilir. Programın bu çağrıyı çalıştırıp sonucu modele geri vermesine tool calling deniyor. MCP (Model Context Protocol) ise bu araçları farklı uygulamalar arasında ortak bir dille tanımlayan açık bir standart. Bir kere yazdığın aracı birçok yapay zekâ uygulaması kullanabiliyor.

16. Ajan: Bütün bunları bir döngüye koyunca ajan oluyor. Model bir hedef alıyor, plan yapıyor, araç çağırıyor, sonuca bakıp bir sonraki adıma karar veriyor ve iş bitene kadar devam ediyor.

Aynı sıralı anlatımı işletim sistemleri için de burada yaptık.

Düşün

• Bir modelin “daha küçük ama aynı kalitede” olduğu iddiasını duyduğunda, yukarıdaki hangi tekniklerden biri kullanılmış olabilir?
• RAG ile ince ayar arasında seçim yapman gerekse, hangi durumda hangisini seçerdin?

Kendi cümlelerimizle yazılmış bir özettir, çeviri değildir. Tüm kaynaklar yukarıda.