Sorun
Bir ajan e-postanı, toplantı kayıtlarını ve kodunu okuyabiliyor; aynı zamanda dışarıya mesaj atabiliyor, GitHub’a yazabiliyor. Kötü niyetli bir metin ajanı kandırırsa (prompt injection), özel bilgi yanlış yere gidebilir. Çoğu savunma, bir sınıflandırıcıyla “bu istek şüpheli mi?” diye tahmin yürütür. Tahmin ise bazen yanılır.
OpenAPPA ne yapıyor?
Proje, ajan ile araçları arasına oturuyor ve her eylemden önce tek bir soruyu soruyor: bu veri bu hedefe gönderilebilir mi? Arkasında APPA (Agentic Permissions Policy Algebra) adlı bir izin cebiri var. Ajanın okuduğu her şeyin hassasiyetini ve güvenilirliğini takip ediyor, sonra her araç çağrısını çalışmadan önce bu kayıtlara göre kontrol ediyor.
Önemli fark: Karar deterministik. Politika bildirimsel bir TOML dosyası ve motor kararı yalnızca olay günlüğüne bakarak veriyor; ağ ya da dosya çağrısı yapmıyor. Aynı günlük her seferinde aynı sonucu veriyor. Bunu MIT lisansıyla açık kaynak sunuyorlar.
Videonun başlığındaki “50 yıllık askerî sır” muhtemelen bilgi akışı denetimi (information-flow control) geleneğine bir gönderme. Bu bölümü biz videodan değil, projenin kendi anlatımından aktarıyoruz.
Sonuçlar ve çekinceler
Projenin kendi ölçümlerine göre iki test setinde (Bench-Corp ve AgentThreatBench) 1.320 değerlendirmede puanlanan hiçbir saldırı başarılı olmadı ve görevlerin %88–90’ı tamamlandı. Aynı tabloda Claude Code’un auto modu %10, Microsoft FIDES ise %28–35 oranında saldırının geçmesine izin vermiş. Bu rakamlar projeyi yapanların kendi ölçümleri; bağımsız olarak doğrulanmadı.
Ayrıca proje kendini “önizleme ve RFC” olarak tanımlıyor: yapılandırma ve arayüzler haber vermeden değişebilir. Üretimde kullanmadan önce temkinli ol.
Nasıl denenir?
README’ye göre Claude Code için bir eklenti var; sadece denemek için “oyun alanı” olarak sunuluyor. Kendi ajanına gömebilir ya da LLM proxy seviyesinde (Archestra’nın sürümü üzerinden) kullanabilirsin. Politikaları appa replay ile CI’da test etmek de mümkün.
Senin için anlamı
- Ajan güvenliğinde “tahmin eden filtre” yerine “kuralı olan, tekrarlanabilir kontrol” fikri güç kazanıyor.
- Hangi veri hangi araca gidebilir, diye açıkça yazmak, ajan kullanmadan önce yapılabilecek iyi bir alıştırma.
- Güvenlik ve işe yararlık arasındaki denge önemli: çok sıkı kural ajanı işe yaramaz hâle getirir.
Düşün
- Ajanına bugün hangi verilere ve hangi dış araçlara erişim veriyorsun?
- “Bu özel veri şu hedefe asla gitmesin” diye yazabileceğin üç kural ne olurdu?
Videoyu izle
Kaynaklar (3, İngilizce)
Kendi cümlelerimizle yazılmış bir özettir, çeviri değildir. Tüm kaynaklar yukarıda.