← Radar

Konu: Güvenlik3 dk okuma

AlphaProof Code: Yapay zekâ ajanları Signal'in derlenmiş kodunun güvenliğini Lean'de kanıtladı

Bu neden önemli?

Biçimsel doğrulama yazılım güvenliğinin en yüksek standardı, ama şimdiye kadar çok pahalıydı. Örneğin seL4 çekirdeği yirmi kişi-yılı sürmüştü. Yapay zekâ bu maliyeti haftalara indirebiliyorsa, kritik yazılımlar için "test ettik" yerine "kanıtladık" demek yaygınlaşabilir. Bunu doğru okumak için kanıtın neyi kapsadığını bilmek gerekiyor.

Biçimsel doğrulama ne demek?

Test yazdığında programın seçtiğin birkaç girdide doğru çalıştığını görürsün. Biçimsel doğrulamada ise önce programın sağlaması gereken özelliği kesin bir matematik diliyle yazarsın. Buna spesifikasyon deniyor. Sonra programın bu özelliği her girdide ve her çalışmada sağladığını kanıtlarsın. Kanıtı da bir bilgisayar adım adım kontrol eder.

TLA+ yazısında bunun tasarım seviyesindeki halini anlatmıştık. Orada kodu değil, tasarımı doğruluyorsun. Bu çalışmada kullanılan araç Lean. Lean’in matematikte neden önemli olduğunu da yapay zekâ ve matematik yazısında konuşmuştuk.

Kritik nokta şu: Bir kanıt sadece yazılan spesifikasyon kadar iyi. “Kanıtlandı” demek, “bu varsayımlar altında, bu özellikler, bu kod için geçerli” demek. Spesifikasyon eksikse kanıt da o kadar eksik.

Ne yapıldı?

Google DeepMind 10 Kasım’da AlphaProof Code’u tanıttı. Bu, işi bir araştırma ekibi gibi bölen bir ajan sistemi:

  1. Spesifikasyon: Bir ajan, literatürdeki Signal modellerinden yola çıkıp Lean spesifikasyonları yazıyor. Başka modellerden gelen ajanlar her taslağı eleştiriyor, son onayı insan veriyor. Bu aşamada Gemini 4 Carbon ve Claude Opus 5.5 kullanılmış.
  2. Kod: libsignal’in değiştirilmemiş Rust kodu, standart derleyiciyle ARM (AArch64) makine koduna çevriliyor. Bu ikili dosya, işlemcinin davranışını tanımlayan bir Lean modeliyle birlikte Lean’e yükleniyor.
  3. Kanıt: Gemini 4 Carbon ile çalışan bir ajan ekibi kanıtları yazıyor. Bir “kapı bekçisi” ajan, kanıtı ancak Lean çekirdeği kontrol ettikten ve kanıtın onaylanmış spesifikasyonun saklı bir kopyasıyla birebir aynı şeyi kanıtladığı doğrulandıktan sonra kabul ediyor.

Kanıtlanan özellikler, Signal’in kuantum sonrası el sıkışması PQXDH ve Triple Ratchet için: ileri gizlilik (bir anahtar ele geçse bile eski mesajlar korunuyor), ele geçirme sonrası güvenlik (cihaz bir süre ele geçirilse bile sonraki mesajlar yeniden korunuyor), kimlik doğrulama ve el sıkışma gizliliği. İki standart güvenlik modelinde çalışılmış: şifrelemeyi kusursuz kara kutu sayan sembolik model ve saldırganın başarı olasılığını sınırlayan hesaplamalı model.

Sayılar

Makaleye göre:

  • Yaklaşık 6,5 milyon satır Lean kanıtı. Okuyup güvenmen gereken kısım yaklaşık 26 bin satır: 18 bin satır spesifikasyon ve tanım, 8 bin satır işlemci modeli.
  • İş, beş kişilik bir ekiple dört haftada bitti. Hiçbir yazar kanıt kodu yazmadı. DeepMind’a göre ajanlar kodun sadece yaklaşık %1’ini insan incelemesine işaretledi.
  • Spesifikasyonun gerçek hataları yakalayıp yakalamadığını görmek için, daha önce bulunup düzeltilmiş iki libsignal hatası koda geri eklendi. İki durumda da sistem, hatalı ikili dosyanın güvenlik teoremini sağlamadığını Lean’de kanıtladı.

Bu çalışma, Nisan 2026’da Beneficial AI Foundation, Signal ve Lean FRO’nun başlattığı “Signal Shot” adlı büyük hedefe doğru önemli bir adım olarak sunuluyor.

Kanıtın kapsamadıkları

Makale bunları açıkça listeliyor ve haberi doğru okumak için bunlar şart:

  • Şifreleme fonksiyonlarının kendisi kanıtlanmadı. SHA-256, AES, X25519, Kyber ve ML-KEM gibi alt seviye rutinler, kanıtlanmak yerine “sözleşme” olarak varsayıldı.
  • Doğrulanan şey Signal uygulamasının tamamı değil. libsignal’in küçük bir komut satırı aracına bağlanmış, ARM Linux için derlenmiş hali.
  • Senaryo dar: iki taraf, her biri tek cihazda. Hesaplamalı modelde kuantum saldırganlara karşı garanti yok. Çok sayıda uzun oturumda sınır anlamsızlaşıyor. Bazı saldırgan davranışları da literatürde olmayan şekilde kısıtlanmış.

Yani bu “Signal artık hatasız” demek değil. Bu, protokolün tasarımıyla gerçekten çalışan makine kodu arasındaki boşluğun, belirli özellikler için ilk kez kapatılması demek.

Düşün

  • Bir kütüphanenin “biçimsel olarak doğrulandığını” duyduğunda, artık hangi soruları sorarsın?
  • Kanıtı yapay zekâ yazıyor ama spesifikasyonu insan onaylıyorsa, asıl güven nerede duruyor?

Videoyu izle

Tıklayınca video YouTube'dan yüklenir; o ana kadar bu sayfa YouTube'a hiçbir istek göndermez.
Kaynaklar (5, İngilizce)

Kendi cümlelerimizle yazılmış bir özettir, çeviri değildir. Tüm kaynaklar yukarıda.

Konu: Güvenlik3 dkVideo: Better Stack

AES-256'yı deneme yanılmayla kırmak neden imkânsız? Büyük Patlama'dan beri çalışan madenciler ve Grover algoritması

AES-256'nın 2^256 olası anahtarı var. Bugünkü Bitcoin ağının tüm hızı Büyük Patlama'dan beri anahtar denemeye harcansaydı, bunların ancak 10^38'de biri kadarını denemiş olurdu. Kuantum bilgisayarlar için yazılmış Grover algoritması işi hızlandırıyor ama kurtarmıyor. NIST'e göre AES-256 çok uzun süre güvenli kalacak.

Konu: Güvenlik3 dkVideo: Better Stack

Claude Code kibarlık yüzünden e-posta adresini sızdırdı: User-Agent başlığındaki hesap e-postası

Claude Code, bazı kullanıcıların hesap e-postasını yazdığı curl komutlarına ve script'lere User-Agent olarak ekledi ve bu adres üçüncü taraf sitelere gitti. Sebep, bazı sitelerin otomatik isteklerden iletişim adresi istemesi. Anthropic geçici bir engel ekledi; asıl çözüm, e-postayı modelin bağlamından tamamen çıkarmak.