Mühendisler Luis Wenus ve Robert Lukoszko, ticari olarak satılan bir insansız hava aracının yapay zekâ teknolojileriyle belirli kişileri otonom şekilde tanıyıp takip edebileceğini ortaya koydu. Oyun amacıyla geliştirildiği belirtilen sistem, teknolojinin farklı amaçlarla kullanılabilme ihtimali nedeniyle güvenlik tartışmalarını beraberinde getirdi.
İHA'ya yapay zekâ destekli takip sistemi eklendi
Geliştirilen sistemde, İHA'nın çevresindeki nesneleri algılamasına ve belirli kişileri ayırt etmesine yardımcı olan yapay zekâ tabanlı teknolojiler kullanıldı. Bu sayede sistemin, önceden belirlenen bir kişiyi otonom olarak tanıyıp takip edebildiği gösterildi.
Geliştiriciler teknolojiyi bir oyun amacıyla tasarladıklarını belirtirken, sistemin farklı amaçlarla kullanılabilmesi olası kötüye kullanım risklerine ilişkin endişelere yol açtı.
Güvenlik açısından risk oluşturabileceği değerlendiriliyor
İHA'nın bireyleri tanımlamak ve takip etmek için yapay zekâ destekli nesne tespiti ile yüz tanıma modellerinden yararlanması, sistemi yapay zekâ teknolojileri açısından dikkat çekici bir örnek haline getiriyor.
Uzman değerlendirmelerine göre, bu tür sistemlerin yanlış veya kötü niyetli kullanımı kişilerin güvenliği ve mahremiyeti açısından ciddi riskler oluşturabilir. Özellikle yapay zekânın insan müdahalesi olmadan karar verebilmesi, mevcut güvenlik mekanizmalarının yeterliliği konusunda soru işaretleri yaratıyor.
Henüz gerçek bir zarar bildirilmedi
Söz konusu teknolojiyle bağlantılı olarak şu ana kadar gerçekleşmiş bir yaralanma veya ölüm vakası bildirilmedi. Bu nedenle durum, doğrudan yaşanmış bir yapay zekâ kazasından ziyade potansiyel tehdit ve kötüye kullanım riski kapsamında değerlendiriliyor.
Çalışma, ticari olarak erişilebilen teknolojilerin yapay zekâ ile birleştirilmesinin hangi güvenlik ve etik sorunları beraberinde getirebileceğine ilişkin tartışmaları yeniden gündeme taşıdı.
