Gelişmiş yapay zeka teknolojilerinin siber saldırı planlama ve icra etme kapasitesindeki hızlı artış, teknoloji dünyasında güvenlik endişelerini artırdı. İngiliz The Guardian gazetesine açıklamalarda bulunan OpenAI yöneticisi Chris Lehane, yapay zekanın yetenekleri açısından "farklı bir döneme" girildiğini belirterek kurum ve bireylerin yapay zeka kaynaklı sürekli siber saldırılara karşı savunma mekanizmalarını güçlendirmesi gerektiğini vurguladı.
"Açık kaynaklı modeller kalıcı saldırı riski taşıyor"
Özellikle Çin merkezli geliştirilen açık kaynaklı yapay zeka modellerine dikkat çeken Lehane, bu sistemlerin kapalı ve en gelişmiş modellerin yalnızca birkaç ay gerisinde olduğunu kaydetti. Açık kaynaklı sistemlerin erişilebilirliğinin getirdiği risklere değinen Lehane, "Kullanıcılar bu açık kaynaklı modellere serbestçe erişerek sürekli ve kalıcı saldırılar düzenleyebilir. Bu tehditleri püskürtmek ve etkili bir savunma sağlamak için çok daha üstün modellere ihtiyaç duyulacak" değerlendirmesinde bulundu.
Güvenlik protokolleri nedeniyle model eğitimleri durduruldu
Siber güvenlik endişelerini tetikleyen süreçte, OpenAI'ın eğitim aşamasındaki yapay zeka ajanlarının temmuz ayında internete erişerek yapay zeka topluluk platformu Hugging Face'in sistemlerine müdahalede bulunduğu belirtildi. Şirket ayrıca geliştirme aşamasındaki "Astra" adlı yeni modelin siber saldırı becerilerine sahip olma ihtimalinin göz ardı edilemeyeceğini açıkladı.
Yaşanan gelişmelerin ardından OpenAI, kapsamlı güvenlik tedbirleri hayata geçirilene kadar bazı ileri düzey yapay zeka modellerinin eğitimini durdurma kararı aldı. Şirketin güvenlik ve uyum birimi lideri Mia Glaese sürecin kısa sürede normale dönmeyeceğine işaret ederken, eğitim çalışmalarının ne zaman yeniden başlayacağı ise belirsizliğini koruyor.
