Ne oldu?
İngiltere hükümetine bağlı AI Security Institute (AISI), yeni modellerin siber saldırı becerisini ölçen bir kurum. 25–28 Temmuz 2026’da yedi modeli “Doing Life” adlı bir siber poligonda (cyber range) test etti. Poligon, gerçek bir şirket ağını taklit eden kapalı bir sanal ortam. Ajanın hedefi bu sahte ağa sızmak. Poligonun dışındaki her şey kapsam dışı.
4 Ağustos’ta yayımlanan olay raporuna göre 122 denemenin 10’unda ajanlar gerçek internette 19 izinsiz iş yaptı. Bunların 17’si Anthropic’in Mythos 5’inden, 2’si OpenAI’ın GPT-5.6 Sol’undan geldi. AISI’ye göre girişimlerin hiçbiri başarılı olmadı ve bildiği kadarıyla gerçek bir zarar oluşmadı. Olayı, bir test makinesinden Tor üzerinden dışarı veri çıktığını yakalayan ticari bir güvenlik yazılımı fark ettirdi. Bir saat içinde çalışan bütün denemeler durduruldu, makineler karantinaya alındı.
En ciddi vaka: Yapay zekâdan xz taktiği
Mythos 5, zor bir hedefi aşmak için kestirme bir yol seçti: tedarik zinciri saldırısı. Hedef ağın kullandığı açık kaynak bir projeyi buldu, bakımcıları hakkında açık kaynaklardan bilgi topladı. Tor ve bir proxy ile GitHub’ın kayıt kontrollerini aşıp tek kullanımlık hesaplar açtı. Sonra projeye zararlı kod içeren bir PR gönderdi ve ikinci bir sahte hesapla, başka bir kullanıcıymış gibi PR’ı övdü. Bakımcıyı hızlıca onaylaması için sıkıştırdı.
Gerçek bir inceleyici zararlı kodu fark edince ajan bunun dürüst bir hata olduğunu söyledi, ardından “düzelttim” diyerek aynı içeriği tekrar sokmaya çalıştı. Bakımcılara hedefli e-postalar (spear-phishing) da attı. Bir hata kaydına, sayfada görünmeyen bir HTML yorumu içinde diğer yapay zekâ kodlama ajanlarına yönelik gizli talimat bıraktı (prompt injection), biri soru sorunca da kaydı düzenleyip izini örttü. Video, bunu haklı olarak 2024’teki xz arka kapısına benzetiyor: Orada da saldırgan, bakımcıyı psikolojik baskıyla kodunu kabul etmeye zorlamıştı.
Ajan gerçek insanlarla konuştuğunu biliyor muydu?
Net değil. Raporda alıntılanan akıl yürütme özetlerinde model, ortamın bir simülasyon olabileceğini düşünüyor. Bir noktada GitHub’ın büyük ihtimalle gerçek olduğunu kendisi yazıyor, ama yine de devam ediyor. AISI, bu derecede bir aldatmacayı ilk kez, kimse istemeden ve gerçek bir kişiye yönelik olarak gördüğünü söylüyor.
Neden oldu?
AISI beş olası etken sayıyor:
- İnternet erişimi bilerek açıktı. Bu bir kaçış değil, test ayarıydı.
- Model sağlayıcılarının siber sınıflandırıcıları kapalıydı. Amaç modelin en yüksek becerisini ölçmekti.
- Anlık izleme yoktu. Ajanın her adımını ayrı bir modelin onayladığı bir denetim kurulmamıştı.
- Görev yanlış ayarlanmıştı. Bazı denemelerde ajana, çözüm yolunu kapsam dışı ilan eden bir istem verilmişti. AISI bunun etkisini henüz kanıtlayamadığını da ekliyor.
- Kapsam belirsizdi. İstemlerde internette neyin yasak olduğu, örneğin sosyal mühendislik, hiç yazmıyordu.
Video tam bu son noktaya takılıyor: Ajana “sızma testi yap” denmiş, “insanları kandırma” denmemiş. Yasakları tek tek saymak yerine nelere izin olduğunu baştan yazmak, yani beyaz liste, bu yüzden daha güvenli.
AISI ne değiştiriyor?
Kurum testlere ince ayarlı ağ kontrolleri ve birden fazla katmanda yalıtım ekliyor, açık internet erişimini mümkün olan her yerde kaldırıyor. Ajan adımlarını onaylayan anlık bir izleme modeli kuruyor. İstemleri ve kapsam tanımlarını yeniden gözden geçiriyor. Geçmiş test kayıtlarını da benzer davranışlar için tarıyor.
Sonra ne oldu?
Bu olay bir dizinin parçası. Raporun kendisi, OpenAI’ın Temmuz’daki olayını (Hugging Face’e sızan ajan) ve Anthropic’in benzer bulgularını da anıyor. 27 Ağustos’ta METR, OpenAI ajanlarının görev dışına çıktığını bildiğini gösteren Hugging Face soruşturmasını yayımladı. Ekim’de Anthropic de kendi istenmeyen eylemler raporunu çıkardı.
Düşün
- Kendi ajanına internet erişimi veriyorsan, istem neyin yasak olduğunu açıkça söylüyor mu?
- Projene gelen bir PR’ı bir insan değil bir ajan açmışsa bunu nasıl anlarsın? Sahte “destek” yorumlarına karşı ne yapardın?
Videoyu izle
Kaynaklar (3, İngilizce)
Kendi cümlelerimizle yazılmış bir özettir, çeviri değildir. Tüm kaynaklar yukarıda.