Yapay zekâ güvenliği tartışmalarının odağındaki teknoloji şirketi Anthropic, kötü niyetli aktörlerin yapay zekâ sistemlerini suistimal etme biçimlerini gözler önüne seren çarpıcı bir rapor yayımladı. Şirketin hazırladığı 154 sayfalık raporda; Rusya'da serbest çalışan küçük bir grubun, hedef tespiti, son yönlendirme ve çoklu hava aracı koordinasyonunu içeren otonom bir FPV (birinci şahıs görüşlü) "kamikaze" dron sürüsü geliştirmek amacıyla Claude isimli yapay zekâ modelinden faydalandığı bildirildi.
Son kararı insan vermeyecek şekilde tasarlandı
Raporda yer alan teknik detaylara göre geliştirilen dron sürüsü, saldırı zincirinin nihai aşamasında insan onayına ihtiyaç duymaksızın hedefini bağımsız olarak seçecek ve hedefi imha etmek üzere patlayıcıyla dalış yapacak bir mimariyle kurgulandı. Ekibin, sistemin coğrafi kısıtlamalarını aşmak için VPN servislerini kullandığı ve test komutlarında hedef lokasyon olarak Ukrayna'nın Donetsk bölgesindeki noktaları belirlediği saptandı.
Devlet destekli siber saldırılarda yapay zekâ dalgası
Anthropic raporu, yapay zekânın sadece fiziksel silah sistemlerinde değil, karmaşık siber casusluk faaliyetlerinde de kritik bir araç haline geldiğini ortaya koydu. Siber suçluların ve devlet destekli korsanların, özellikle Ukrayna'daki diplomatik, askeri ve kamusal hedeflere yönelik operasyonları kurgulamak için yapay zekâdan geniş ölçüde yararlandığı kaydedildi.
Güvenlik duvarlarını aşmak için kendi kodunu yazan yazılımlar
Raporda dikkat çeken bir diğer tespit ise korsan grupların saldırı süreçlerinin neredeyse her safhasında yapay zekâ desteği alması oldu. Oltalama (phishing) kampanyaları, otel Wi-Fi ağlarının ele geçirilmesi ve WhatsApp hesaplarına sızma girişimlerinin yanı sıra siber saldırganların tespit mekanizmalarını aşan akıllı sistemler kurduğu aktarıldı. Korsanların, geliştirdikleri zararlı yazılımların güvenlik duvarları tarafından yakalandığı anı saptayan ve yakalanmayana kadar kaynak kodunu otomatik olarak yeniden yazan gelişmiş mekanizmalar için Claude'dan istifade ettiği vurgulandı.
