Google Tehdit İstihbaratı Grubu (GTIG), dördüncü çeyrek AI Threat Tracker raporunu yayımladı. Rapora göre GTIG, ilk kez bir tehdit aktörünün insan müdahalesi olmadan güvenlik açıklarını tespit etmek ve bu açıklardan yararlanmaya yönelik saldırı yöntemleri geliştirmek için bir yapay zeka ajanı kullandığını gözlemledi.
GTIG, bu bulgunun siber saldırıların yaşam döngüsünde önemli bir değişime işaret ettiğini belirtiyor. Kuruma göre yapay zeka, daha önce uzmanlık gerektiren ve deneyimli kişilerce yürütülen görevlerin giderek daha büyük bir bölümünü üstleniyor; kamuya açık bir güvenlik yamasından hareketle ilgili güvenlik açığını istismar etmeye yönelik saldırı girişimi geliştirmek için gereken zaman ve çabayı azaltıyor.
Öne çıkan bulgular
İnsan müdahalesi olmadan gerçekleştirilen istismarın ilk örneği: Yapılandırma dosyalarında Rusça açıklamalar bulunan ve exploit_agent adı verilen büyük dil modeli (LLM) tabanlı sistem, yama öncesi ve sonrası kodu sürekli karşılaştırarak güvenlik açıklarını belirliyor ve hiçbir insan müdahalesi olmadan otomatik olarak istismar kodu geliştiriyor.
Açık kaynaklı yapay zeka ajanları gerçek sızma operasyonlarında kullanılıyor: GTIG, hem finansal motivasyonlu hem de muhtemelen siber casusluk amaçlı tehdit aktörlerinin, bir saldırının farklı aşamalarını otomatikleştirmek için CAIRN, PentAGI ve CyberStrikeAI gibi açık kaynaklı, ajan tabanlı sızma testi araçlarını kullandığını gözlemledi. Bir vakada bir saldırgan, ABD havacılık ve uzay sektörünü hedef alan bir sızma girişimi sırasında CAIRN’i devreye aldı.
Yapay zeka etki kampanyalarının erişimini ve inandırıcılığını artırıyor: GTIG, bilgi operasyonlarında büyük dil modellerinin artık yalnızca içerik üretimi amacıyla kullanılmadığını; devlet destekli grupların ve ticari “Influence-as-a-Service” (Hizmet Olarak Etki) sağlayıcılarının bu modellerden otomatik iş akışları oluşturmak, teknik altyapı tasarlamak ve tespit edilmekten kaçınmak için de yararlandığını tespit etti. Bir vakada saldırganlar, bulut tabanlı telefon çiftlikleri aracılığıyla 100 binden fazla sentetik hesabı yönetmek üzere tasarlanan platformları Gemini API üzerinden geliştirdi. Bu platformlar, üretilen içeriğin daha gerçekçi görünmesi için akıllı telefon kameralarındaki kusurları taklit eden özellikler de içeriyordu.
Devlet destekli aktörler yapay zekayı casusluk ve hedeflemede kullanıyor: GTIG, Çin Halk Cumhuriyeti bağlantılı aktörlerin çalınan verileri istihbarat ürünlerine dönüştürmek için LLM’lerden yararlandığını gözlemledi. GTIG ayrıca, kripto para şirketlerini yapay zeka tarafından oluşturulan sahte kimliklerle hedef alan Kuzey Kore bağlantılı faaliyetleri de takip etti. Bu kimliklerin bir kısmı SynthID filigranı taşıyordu. GTIG, bu faaliyetlerin yanı sıra otonom kodlama asistanlarının yapılandırmasını manipüle etmeye yönelik girişimleri de izledi.
Raporda ayrıca Google’ın Gemini hizmetlerinin kötüye kullanımını tespit ederek engellediği, ilişkili hesapları devre dışı bıraktığı ve bu bulgular doğrultusunda güvenlik önlemlerini güçlendirdiği adımlar ayrıntılı biçimde yer alıyor.



















