Eski KittenTTS neden sevilmişti?
TTS (text-to-speech), yazıyı sese çeviren model demek. İlk KittenTTS, en küçük hâliyle 15 milyon parametre ve yaklaşık 25 MB’tı. Ekran kartı istemiyor, sıradan bir işlemcide çalışıyordu. Hem kodu hem model ağırlıkları Apache 2.0 lisanslıydı: İstediğin ürüne koyabiliyordun. Sesler sınırlıydı ve ses kopyalama yoktu, ama bu boyutta bu kalite şaşırtıcıydı.
KittenTTS 2’de ne değişti?
Eylül sonunda Hugging Face’e yüklenen ikinci sürüm, adı aynı olsa da bambaşka bir model:
- Boyut: 1,7 milyar parametre. Yani ilk modelin en küçük sürümünün yüz katından fazla.
- Ses kopyalama: 5–30 saniyelik, tek kişinin konuştuğu bir kayıt verirsen, o sesle konuşabiliyor.
- Duygu ve ses efektleri (beta): Cümlenin başına “heyecanlı”, “üzgün”, “sert” gibi etiketler koyabiliyorsun. Metnin içine iç çekme, gülme, duraksama gibi sesler de ekleyebiliyorsun. Model kartı bunun bir yönlendirme olduğunu, her seste ve her cümlede aynı etkiyi garanti etmediğini söylüyor.
- Hazır sesler: 47 ses var. Bunların dokuzu Arapça, Çince, Fransızca, Almanca, Hintçe, İtalyanca, Portekizce, Rusça ve İspanyolca aksanlı. Türkçe listede yok. Sayıları ve tarihleri okunur hâle getiren kısım İngilizceye göre ayarlı.
Model iki aşamada çalışıyor: Önce bir dil modeli sesi temsil eden kısa kodlar (token) üretiyor, sonra bir vocoder bu kodları 24 kHz’lik sese çeviriyor.
Büyük model nasıl yine de taşınabilir?
Burada daha önce Parakeet Redux yazısında anlattığımız fikir tekrar karşımıza çıkıyor: üç değerli ağırlıklar. Model kartına göre dil modelinin ağırlıkları 128’lik gruplara ayrılmış. Her gruptaki her değer sadece üç şeyden biri olabiliyor: eksi bir ölçek, sıfır ya da artı bir ölçek. Ağırlık başına yaklaşık 1,6 bit.
Sonuç olarak 1,7 milyarlık modelin varsayılan sürümü yaklaşık 954 MB. Daha küçük ama biraz kayıplı bir sürüm 469 MB, sıkıştırılmamış tam hâli ise 3,5 GB. Küçük değil, ama bir dizüstü bilgisayara rahatça sığıyor.
Hız konusunda model kartı rakam vermiyor. Videoda yapılan Mac testlerinde, işlemcide gerçek zamanlı hıza yaklaşılabildiği ama kısa metinlerde bile beklemenin hissedildiği anlatılıyor. Uzun metinlerde de sorunlar gözlenmiş. Bunlar videoya göre. Kendi makinende denemeden karar verme.
Asıl fark: Lisans
Kod deposu hâlâ Apache 2.0. Ama KittenTTS 2’nin ağırlıkları Stellon Labs Community License ile geliyor. Model kartına göre araştırma, ticari olmayan kullanım ve sınırlı ticari kullanım ücretsiz. Ancak sen ya da bağlı şirketlerin yıllık 1 milyon doları aşan gelire ya da toplamda 1 milyon doları aşan yatırıma ulaşınca, ayrı bir lisans alman gerekiyor.
Bir hobi projesi ya da küçük bir girişim için bu sorun değil. Büyüyen bir ürünün içine koyacaksan, bu eşiği bugünden bilmen gerekiyor.
Kime uygun?
- Bulut servisine para ödemeden, sesini dışarı göndermeden ses kopyalama denemek isteyenlere.
- İngilizce içerik, sesli kitap ya da oyun prototipi üretenlere.
- Çok küçük bir cihazda çalışacak, lisansı tamamen serbest bir model arıyorsan, ilk KittenTTS modelleri hâlâ daha uygun.
Ses kopyalama güçlü bir özellik: Başkasının sesini izni olmadan kopyalamak, çoğu ülkede hukuki sorun yaratır.
Düşün
- Bir modelin yeni sürümü eskisinden çok farklıysa, aynı ismi taşıması kullanıcıya ne söyler?
- Senin projen için hangisi daha önemli: model boyutu mu, ses kalitesi mi, yoksa lisansın serbestliği mi?
Videoyu izle
Kaynaklar (5, İngilizce)
- Better Stack: The Tiny TTS Everyone Loved Isn't Tiny Anymore (KittenTTS 2) (video) (yeni sekmede açılır)
- Hugging Face: KittenML/kitten-tts-2 (model kartı) (yeni sekmede açılır)
- Hugging Face: KittenML/kitten-tts-nano-0.1 (ilk model, Apache 2.0) (yeni sekmede açılır)
- GitHub: KittenML/KittenTTS (yeni sekmede açılır)
- arXiv: The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits (yeni sekmede açılır)
Kendi cümlelerimizle yazılmış bir özettir, çeviri değildir. Tüm kaynaklar yukarıda.