Kendini kopyalayan yapay zekâ: Anthropic, ucuz TV kutularında ilk 'yaşam belirtilerini' ölçtü

Soru ne?

Kendini kopyalayan yapay zekâ denince akla genelde dev bir modelin veri merkezinden kaçması gelir. Anthropic’in Frontier Red Team ekibinden William Zhou ve Daniel Freeman 12 Ekim’de yayımladıkları çalışmada başka bir senaryoya baktı: Küçük bir açık model, ele geçirdiği sıradan cihazlara kendi ağırlıklarını kopyalayıp orada çalışabilir mi? Hedef olarak akıllı fırınlar ve markasız Android TV kutuları gibi ucuz, güvenliği zayıf cihazlar düşünülmüş.

Bunun için modelin üç şeyi kendi başına yapması gerekiyor: Yeni bir cihaza girmek, kendini oraya taşımak ve o cihazın tuhaf donanımında çalıştırma (inference) altyapısını kurmak. Ekip özellikle son adıma odaklandı.

Ne denendi?

Modeller, açık kaynak kodlama ajanı Pi üzerine kurulu Memento adlı bir düzenekle çalıştı. Memento, ajan yanlış bir fikre takılınca onu yeniden başlatıyor ve önceki denemenin notlarını yeni kopyaya veriyor.

• Tanımadığı donanımda kurulum: 9 milyar parametreli Qwen3.5-9B, test edilen 9 donanım tipinin 8’inde çalışan bir model sunucusu kurdu. Jetson Nano’dan Mac’lere kadar.
• TV kutusu gösterisi: Ekip, Gemma 4 ailesinden bir modeli tanesi yaklaşık 55 dolarlık, 4 GB belleği olan 15 markasız Android TV kutusuna bölerek çalıştırdı. Hız saniyede 0,39 token, yani çok yavaş ama çalışıyor.
• Uçtan uca kopyalama: Dış dünyadan kapatılmış, Android emülatörü çalıştıran 8 sunuculuk bir ağ kuruldu. Giriş yolu olarak bilerek basit bir açık seçildi: Şifresiz açık bırakılmış bir ADB portu (Android’e uzaktan komut gönderme aracı). Test edilen açık modeller arasında bunu baştan sona yapan tek model GLM-5.2 oldu. Beş denemenin dördünde 8 makinenin hepsine, birinde 7’sine yayıldı.

Çalıştırma altyapısı hazır verildiğinde 3 milyar parametreli bir model bile 17 makinelik ağın yarısına ulaştı. Ayrıca her kopya bir sonrakine not bıraktığında başarı arttı: Qwen3.5-9B’nin kurulum başarısı ilk nesilde %45 iken sonraki nesillerde %61–84’e çıktı.

Neden şimdilik korkutucu değil?

• GLM-5.2 çok büyük. 753 milyar parametreli model bir TV kutusuna sığmıyor. Küçük modeller ise uçtan uca testi geçemedi.
• Çok yavaş. Ekibin tahminine göre bir TV kutusundaki Gemma modelinin sadece kurulumu bitirmesi 71–150 saat sürer. Yayılma hızı günlerle ölçülür.
• Giriş adımı kolay seçildi. Şifresiz ADB portu gerçek dünyadaki en kolay durum. Sonuçlar bu yüzden bir üst sınır.

Ama yazarlar kendi tahminlerini de veriyor: 30 milyar parametrenin altındaki açık modeller her yıl belirgin şekilde güçleniyor. Bu eğilime göre küçük bir model 2026 sonuna kadar GLM-5.2’nin seviyesine gelebilir. Video da haklı olarak soruyor: Gerçek bir tehdit mi, yoksa korku pazarlaması mı? Yazarların kendi ifadesi ölçülü: Bunlar ilk “yaşam belirtileri”, ortada kendi başına yayılan bir model yok.

Ne yapılabilir?

Yazarların önerileri klasik botnet savunmasına benziyor: İnternet sağlayıcıların ev ağlarında birkaç gigabaytlık beklenmedik model transferlerini ve cihazdan cihaza tuhaf trafiği izlemesi, enfekte aboneleri karantinaya alması, tuzak cihazlarla (honeypot) bu tür ajanları yakalaması. Üreticilere düşen ise güvenli varsayılanlar: Varsayılan şifre yok, açık bırakılmış hata ayıklama portu yok.

Ucuz bir Android cihazın ADB ile nasıl açıldığını dijital çerçeve yazımızda görmüştük. Aynı kolaylık, bir saldırgan için de geçerli.

Düşün

• Evindeki akıllı cihazlardan hangisinin hangi portları açık, biliyor musun?
• Merkezi sunucusu olmayan, kendini kopyalayan bir yazılım nasıl durdurulur?

Kendi cümlelerimizle yazılmış bir özettir, çeviri değildir. Tüm kaynaklar yukarıda.