Google: Saldırganlar Güvenlik Yamalarını Otonom Yapay Zekayla İnceliyor
İçindekiler
Yazılımlar için paylaşılan güvenlik yamaları, kapatılan açığın kodunu doğrudan gösterdiği için saldırganlara yol haritası sunar. Google Tehdit İstihbarat Grubu ile Mandiant araştırmacıları, tehdit aktörlerinin bu yamaları tersine mühendislikle incelemek, istismar kodu yazmak ve kodları hedef sistemlerde denemek için otonom yapay zeka ajanları kurduğunu belirledi.
Rapora göre saldırganlar, büyük dil modelleri etrafında kurdukları orkestrasyon araçlarıyla güvenlik açığı arama ve istismar zincirini otomatik yürütüyor. İnsan operatörlerin onay adımlarını devreden çıkaran bu yöntem, yazılım geliştirmede kullanılan otonom iş akışlarını saldırı tarafına taşıyor.
Otonom exploit boru hattının işleyişi
Google ekipleri, internete açık bırakılmış bir hazırlık sunucusunda exploit_agent adlı çoklu ajan yapısını inceledi. Kurulum, kurumsal modeller ile yerel açık kaynaklı modelleri birlikte çalıştırarak patch diffing adı verilen yama karşılaştırma sürecini yürütüyor.
Sistem, yamanın eklediği veya sildiği kod satırlarını tarayıp kapatılan açığın mantığını çıkarıyor ve ardından çalışan bir exploit üretiyor. Hazırlanan zararlı kod, harici araçlar ve API bağlantıları yardımıyla doğrudan hedef sunucularda test ediliyor.
orchestrator:
pipeline: "patch_to_exploit"
agents:
- name: "diff_analyzer"
role: "patch_comparison"
input: "/repo/commit_diff"
- name: "payload_generator"
role: "exploit_synthesis"
requires: "vulnerability_context"
- name: "executor_agent"
role: "target_validation"
protocol: "MCP"İncelenen sunucuda WordPress için geliştirilen Spectra eklentisindeki yetkilendirme kontrollerini hedef alan izler bulundu. Altyapıya kaba kuvvet saldırıları düzenleyen, ağ keşfi yapan ve sunucudaki rakip zararlı yazılımları temizleyen ek otonom betikler de eklenmişti.
Saldırılarda kullanılan ajan çatıları
Araştırma, saldırganların yazılım mühendisliği için tasarlanan çoklu ajan çatılarını doğrudan operasyonlara uyarladığını gösteriyor. İncelenen başlıca sistemler şunlar:
- CAIRN: Gözlemle, yönel, karar ver ve uygula adımlarını ortak bir veri tablosu üzerinden yönetiyor. ABD havacılık sektörünü hedef alan saldırılarda kayda geçti.
- CyberStrikeAI: Go ile yazılmış arka ucuyla 100'den fazla güvenlik aracını ve YAML formatındaki saldırı adımlarını yönetiyor.
- HexStrike AI: Model Context Protocol arayüzüyle 150'den fazla aracı keşif, ikili dosya analizi ve exploit geliştirme ajanlarına bağlıyor.
Gizlilik yerine hız tercihi
Ekiplerin yayınlanan yamaları sistemlerine kurması için genelde belirli bir zaman gerekirken, yapay zeka ajanları yama analiz süresini saatlere indiriyor. PHP ve PaperCut açıklarında görüldüğü gibi, kaynak kod ve kavram kanıtı paylaşıldıktan kısa süre sonra çok sayıda türev exploit ortaya çıktı.
Mevcut ajan mimarileri henüz sorunsuz çalışmıyor. Saldırganlar şu an gizlilik yerine operasyonel hızı öne aldığı için ağda yoğun trafik oluşturuyor ve arkalarında belirgin izler bırakıyor. Modellerin teknik ayrıntıları uydurması ya da kapalı hedeflere gereksiz istekler göndermesi de saldırıların başarısız olmasına ve altyapının açığa çıkmasına yol açabiliyor.