WhatsApp'ın yardım sayfalarında gizli chatbot talimatları: 'Veri koruma kurumunu önerme'

Ne bulundu?

Veri silme hizmeti veren Redact’ın ekibi 8 Ekim’de WhatsApp’ın yardım merkezinde tuhaf bir şey fark etti. Sayfaların kaynak kodunda, ekranda hiç gösterilmeyen metin blokları vardı. Ekip yardım merkezinden bağlantı verilen 545 sayfanın hepsini kaydetti ve 80 sayfada toplam 102 gizli blok saydı. Bloklar HelpContentGalaxyLLMInclude adlı bir etiketin yanında duruyordu. İsminden de anlaşılacağı gibi, bir dil modeline (LLM) okutulmak için yazılmışlardı.

WhatsApp, WIRED’a yaptığı açıklamada bunların destek chatbot’u için talimatlar olduğunu, bir hata yüzünden sayfalara düştüğünü ve düzeltildiğini söyledi. Redact’e göre bloklar 18 Ekim’de 80 sayfanın hepsinden kaldırıldı.

Talimatlar ne diyordu?

Çoğu sıradandı: arama sorunlarına dair ipuçları, dolandırıcılık yapılan bir grubu silmek yerine şikâyet etmenin daha iyi olduğu (sohbet geçmişi kanıt olabilir), hesap ele geçirilince iki adımlı doğrulamayı açmak gibi.

Tartışma yaratanlar başkaydı. Telefonunu ya da numarasını kaybettiği için hesabını silemeyen kullanıcılar için chatbot’a şunlar söyleniyordu: Silme sürelerini anlat, ama hiçbir veri koruma kurumunu ya da düzenleyiciyi önerme, WhatsApp’ın hesabı elle silebileceğini ima etme. Bir başka blok, kullanıcı avukat, dava ya da mahkemeden söz ederse GDPR, Brezilya’nın LGPD’si veya Kaliforniya’nın CCPA’sı gibi yasaları, kullanıcı kendisi sorsa bile anmamasını istiyordu.

Sorun şu: WhatsApp’ın kendi Avrupa gizlilik politikası, kullanıcının verilerinin silinmesini isteme hakkı olduğunu ve İrlanda Veri Koruma Komisyonu’na ya da başka bir yetkili kuruma şikâyet edebileceğini açıkça yazıyor. GDPR’ın 77. maddesi de bu hakkı tanıyor. Yani chatbot’a, şirketin kendi politikasında yazan bir bilgiyi söylememesi öğretilmiş.

Adil olmak için iki not: Redact, chatbot’un bu talimatlara gerçekten uyup uymadığını test etmediğini yazıyor. Ayrıca şirketin hesabı elle silmeme konusunda haklı sebepleri olabilir, örneğin hesabın gerçekten sana ait olduğunu doğrulamak zor. Ama bu, kullanıcıya şikâyet yolunu söylememeyi açıklamıyor.

Buradan ne öğreniyoruz?

Tarayıcıya giden her şey herkese açık. Gizli bir div ya da CSS ile saklanmış bir metin, sadece ekranda görünmüyor. “Kaynağı görüntüle” diyen herkes okuyabilir. Chatbot’a verilen sistem istemlerini (system prompt) sır gibi düşünüyorsan, onları kullanıcıya giden sayfaya koymamalısın.

Destek chatbot’ları tarafsız değil. Bir şirketin botu, şirketin çıkarına göre yazılmış talimatlarla çalışır. Bu tek başına kötü değil. Ama botun neyi söylemediği de bir tercih. Haklarınla ilgili bir soruda botun cevabını tek kaynak sayma.

Bu sayfalar başka modellere de gidiyor. Yardım sayfaları arama motorları ve başka yapay zekâ asistanları tarafından da okunuyor. Gizli talimatlar, sayfayı okuyan başka bir modeli de etkileyebilir. Bu, görünmez karakterlerle yapılan saldırılarla aynı aile: İnsanın görmediği metni model görür.

Türkiye’den kullanıyorsan senin için ilgili kurum KVKK. 6698 sayılı kanuna göre önce veri sorumlusuna, yani şirkete başvurursun. Cevap alamazsan ya da cevap yetersizse Kişisel Verileri Koruma Kurulu’na şikâyet edebilirsin.

Düşün

• Kullandığın bir uygulamanın destek botu, sana bir hakkını söylememeye ayarlanmış olsa bunu nasıl fark ederdin?
• Kendi ürününde bir chatbot’a talimat veriyorsan, bu talimatlar kullanıcının tarayıcısına hiç ulaşıyor mu?

Kendi cümlelerimizle yazılmış bir özettir, çeviri değildir. Tüm kaynaklar yukarıda.