iPhone klavyesinin gizli listesi: Önermediği binlerce ifade nasıl ortaya çıktı?

Ne bulundu?

iPhone klavyesi yazarken sana bir sonraki kelimeyi öneriyor. Parmağını harflerin üstünde kaydırarak yazdığında da (Apple buna QuickPath diyor) hangi kelimeyi kastettiğini tahmin ediyor. İkisinin arkasında da cihazın içinde çalışan bir dil modeli var.

Blacklight adlı girişimin kurucusu Derik Kauffman, Eylül’de kaydırarak yazarken bazı ifadelerin tuhaf davrandığını fark etti. Yapay zekâ kodlama araçlarının yardımıyla iOS’un dosyalarını inceledi ve klavyenin bir engel listesi (blocklist) taşıdığını buldu. Listede küfürler, cinsellik, uyuşturucu ve şiddetle ilgili ifadeler çoğunlukta. Ama tarihî olaylar, tanınmış kişiler ve birçok ülkeden siyasi ifadeler de var. “Santa isn’t real” gibi masum görünenler bile listede.

Kauffman bulduklarını swipeblocked.com’da yayımladı, kodu da açık kaynak. Reuters 6 Kasım’da konuyu haber yaptı ve bir örneklemi iPhone’da denedi. Mühendis Matt Suiche de aynı listeyi bağımsız olarak çıkardı ve sonuçlar büyük ölçüde örtüştü.

Klavye listedeki ifadeye ne yapıyor?

• Öneri: Listedeki bir ifade hiçbir zaman öneri olarak çıkmıyor.
• Kaydırarak yazma: Çoğu zaman o ifadeyi üretemiyorsun. Klavye başka bir kelime seçiyor, hatta daha önce yazdığın kelimeyi değiştirebiliyor.
• Harf harf yazma: Her zaman çalışıyor. Yani bu bir yasak değil, bir “önermeme” kuralı.
• Eşleşme kelime dizisine göre yapıldığı için ifadeyi biraz değiştirince filtre devreye girmiyor.

Liste nasıl okundu?

İşin ilginç kısmı teknik. Apple listeyi düz metin olarak saklamıyor. Klavyenin dil dosyalarında her kelimenin bir numarası var. Liste, 2 ile 6 kelimelik dizilerin numaralarından üretilmiş parmak izlerini (hash) tutuyor. Klavye bir öneri hazırladığında o dizinin parmak izini hesaplıyor, tabloda varsa öneriyi atıyor.

Hash tek yönlü olduğu için listeyi doğrudan geri çeviremezsin. Kauffman bu yüzden 2-4 kelimelik bütün olası dizileri tek tek deneyip tablodaki parmak izleriyle karşılaştırdı. 5 ve 6 kelimelik olanları da bulunan kısa ifadelere kelime ekleyerek genişletti. Kelime numaralarını gerçek kelimelere çevirmek için de Apple’ın kendi sözlük dosyalarını kullandı.

Yöntemin sınırları var ve site bunları açıkça yazıyor. Bazı kelime numaralarının hiçbir sözlükte karşılığı yok. “Left” ve “right” gibi bazı kelimeler aynı numarayı paylaşıyor. Tesadüfi eşleşmeler de çıkıyor, bunlar ayıklandı ama hepsinden emin olunamıyor. Almanca, Fransızca ve Hintçe listeler yarım kaldı. Liste, bir ifadenin orada olduğunu gösteriyor, neden eklendiğini değil.

Apple ne dedi?

Haberlere göre Apple, klavyenin uygunsuz ya da saldırgan olabilecek önerilerden kaçınacak şekilde tasarlandığını, kullanıcıların istedikleri her kelimeyi yine de yazabildiğini söyledi. Siyasi ifadelerin neden listede olduğunu açıklamadı.

Önerileri filtrelemek kendi başına garip değil. Hiçbir şirket klavyesinin küfür önermesini istemez. Tartışılan şey şeffaflık: Liste yayımlanmıyor, nasıl seçildiği bilinmiyor ve kaydırarak yazmada senin yazdığını sessizce değiştirebiliyor. Cihazdaki modellerle ilgili daha genel bir giriş için Mac’teki yerleşik dil modeli yazımıza bakabilirsin.

Düşün

• Bir klavyenin “önermemesi” ile “yazdırmaması” arasındaki fark kullanıcı için ne kadar büyük?
• Böyle bir filtre listesinin herkese açık olması daha mı iyi olur, yoksa kötüye kullanmayı mı kolaylaştırır?

Kendi cümlelerimizle yazılmış bir özettir, çeviri değildir. Tüm kaynaklar yukarıda.