Biçimsel doğrulama ne demek?
Test yazdığında programın seçtiğin birkaç girdide doğru çalıştığını görürsün. Biçimsel doğrulamada ise önce programın sağlaması gereken özelliği kesin bir matematik diliyle yazarsın. Buna spesifikasyon deniyor. Sonra programın bu özelliği her girdide ve her çalışmada sağladığını kanıtlarsın. Kanıtı da bir bilgisayar adım adım kontrol eder.
TLA+ yazısında bunun tasarım seviyesindeki halini anlatmıştık. Orada kodu değil, tasarımı doğruluyorsun. Bu çalışmada kullanılan araç Lean. Lean’in matematikte neden önemli olduğunu da yapay zekâ ve matematik yazısında konuşmuştuk.
Kritik nokta şu: Bir kanıt sadece yazılan spesifikasyon kadar iyi. “Kanıtlandı” demek, “bu varsayımlar altında, bu özellikler, bu kod için geçerli” demek. Spesifikasyon eksikse kanıt da o kadar eksik.
Ne yapıldı?
Google DeepMind 10 Kasım’da AlphaProof Code’u tanıttı. Bu, işi bir araştırma ekibi gibi bölen bir ajan sistemi:
- Spesifikasyon: Bir ajan, literatürdeki Signal modellerinden yola çıkıp Lean spesifikasyonları yazıyor. Başka modellerden gelen ajanlar her taslağı eleştiriyor, son onayı insan veriyor. Bu aşamada Gemini 4 Carbon ve Claude Opus 5.5 kullanılmış.
- Kod: libsignal’in değiştirilmemiş Rust kodu, standart derleyiciyle ARM (AArch64) makine koduna çevriliyor. Bu ikili dosya, işlemcinin davranışını tanımlayan bir Lean modeliyle birlikte Lean’e yükleniyor.
- Kanıt: Gemini 4 Carbon ile çalışan bir ajan ekibi kanıtları yazıyor. Bir “kapı bekçisi” ajan, kanıtı ancak Lean çekirdeği kontrol ettikten ve kanıtın onaylanmış spesifikasyonun saklı bir kopyasıyla birebir aynı şeyi kanıtladığı doğrulandıktan sonra kabul ediyor.
Kanıtlanan özellikler, Signal’in kuantum sonrası el sıkışması PQXDH ve Triple Ratchet için: ileri gizlilik (bir anahtar ele geçse bile eski mesajlar korunuyor), ele geçirme sonrası güvenlik (cihaz bir süre ele geçirilse bile sonraki mesajlar yeniden korunuyor), kimlik doğrulama ve el sıkışma gizliliği. İki standart güvenlik modelinde çalışılmış: şifrelemeyi kusursuz kara kutu sayan sembolik model ve saldırganın başarı olasılığını sınırlayan hesaplamalı model.
Sayılar
Makaleye göre:
- Yaklaşık 6,5 milyon satır Lean kanıtı. Okuyup güvenmen gereken kısım yaklaşık 26 bin satır: 18 bin satır spesifikasyon ve tanım, 8 bin satır işlemci modeli.
- İş, beş kişilik bir ekiple dört haftada bitti. Hiçbir yazar kanıt kodu yazmadı. DeepMind’a göre ajanlar kodun sadece yaklaşık %1’ini insan incelemesine işaretledi.
- Spesifikasyonun gerçek hataları yakalayıp yakalamadığını görmek için, daha önce bulunup düzeltilmiş iki libsignal hatası koda geri eklendi. İki durumda da sistem, hatalı ikili dosyanın güvenlik teoremini sağlamadığını Lean’de kanıtladı.
Bu çalışma, Nisan 2026’da Beneficial AI Foundation, Signal ve Lean FRO’nun başlattığı “Signal Shot” adlı büyük hedefe doğru önemli bir adım olarak sunuluyor.
Kanıtın kapsamadıkları
Makale bunları açıkça listeliyor ve haberi doğru okumak için bunlar şart:
- Şifreleme fonksiyonlarının kendisi kanıtlanmadı. SHA-256, AES, X25519, Kyber ve ML-KEM gibi alt seviye rutinler, kanıtlanmak yerine “sözleşme” olarak varsayıldı.
- Doğrulanan şey Signal uygulamasının tamamı değil. libsignal’in küçük bir komut satırı aracına bağlanmış, ARM Linux için derlenmiş hali.
- Senaryo dar: iki taraf, her biri tek cihazda. Hesaplamalı modelde kuantum saldırganlara karşı garanti yok. Çok sayıda uzun oturumda sınır anlamsızlaşıyor. Bazı saldırgan davranışları da literatürde olmayan şekilde kısıtlanmış.
Yani bu “Signal artık hatasız” demek değil. Bu, protokolün tasarımıyla gerçekten çalışan makine kodu arasındaki boşluğun, belirli özellikler için ilk kez kapatılması demek.
Düşün
- Bir kütüphanenin “biçimsel olarak doğrulandığını” duyduğunda, artık hangi soruları sorarsın?
- Kanıtı yapay zekâ yazıyor ama spesifikasyonu insan onaylıyorsa, asıl güven nerede duruyor?
Videoyu izle
Kaynaklar (5, İngilizce)
- Two Minute Papers: DeepMind's AI Just Did The Impossible (video) (yeni sekmede açılır)
- Google DeepMind: Introducing AlphaProof Code (10 Kasım 2026) (yeni sekmede açılır)
- Chaudhuri ve ark.: AlphaProof Code: Verifying Signal's Security at the Machine-Code Level (PDF) (yeni sekmede açılır)
- Google DeepMind: code-verification (Lean spesifikasyonları ve kanıtlar) (yeni sekmede açılır)
- Beneficial AI Foundation: Signal Shot (yeni sekmede açılır)
Kendi cümlelerimizle yazılmış bir özettir, çeviri değildir. Tüm kaynaklar yukarıda.