Yapay zekanın insanlık için oluşturabileceği tehlikelere ilişkin tartışmalar son haftalarda yeniden alevlendi. Bazı araştırmacılar teknolojinin kontrolsüz gelişiminin ciddi riskler taşıdığını savunurken, yapay zeka şirketlerinin yöneticilerinden de geliştirme hızının düşürülmesi yönünde açıklamalar geldi.
Yapay zeka şirketi Anthropic’in kurucu ortaklarından biri, BBC’ye yaptığı açıklamada yapay zeka sistemleri için “acil kapatma düğmesi” olarak adlandırılan acil kapatma mekanizmalarının zorunlu hale getirilmesi gerekebileceğini söyledi.
Peki bir yapay zeka sistemi kontrolden çıkarsa onu gerçekten kapatmak mümkün mü?
Tek bir düğme yok
Toronto Üniversitesi’nden yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot, “acil kapatma düğmesinin” bir yapay zeka aracısının yürüttüğü işlemlerin kesilmesi anlamına geldiğini belirtti.
Papernot’a göre sistemi çalıştıran kişi veya kuruluş, yapay zekanın ihtiyaç duyduğu işlem gücüne erişimini engelleyerek sistemi durdurabilir. Ancak programın ilk çalıştırıldığı ortamın dışına çıkmasına izin verilmişse durum çok daha karmaşık hale geliyor.
Uzman, yapay zekanın kendisini çoğaltabilen bir bilgisayar solucanı yaymak için kullanıldığı senaryoyu örnek gösterdi. Böyle bir durumda programın oluşturduğu bütün kopyaların cihaz cihaz bulunarak eş zamanlı biçimde durdurulması gerekiyor.
Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau da bütün yapay zekayı kapatabilecek tek bir düğme olduğu düşüncesinin yanıltıcı olduğunu söyledi.
Dünya genelinde çok sayıda şirketin farklı yazılım ve hizmetleri bulunduğuna işaret eden Poibeau, yapay zekanın tamamını kontrol eden tek bir kişi veya kurum bulunmadığını vurguladı.
Buna karşılık, makineleri ve hizmetleri tek bir operatör tarafından yönetilen merkezi bir yapay zeka sisteminin kapatılması teorik ve pratik olarak mümkün. Başka yazılımlara, dosyalara ve cihazlara erişim yetkisi verilen merkezi olmayan sistemleri bütünüyle durdurmak ise çok daha zor.
Yapay zekanın yaygınlaşması kapatma işlemini zorlaştırabilir
Yapay zekanın günlük yaşamın daha fazla alanına girmesi, acil kapatma mekanizmalarının kullanılmasını da zorlaştırabilir. İşlem gücünün kesilmesi, yapay zekanın yanı sıra şirketlerin, kamu kurumlarının ve sağlık kuruluşlarının bağlı olduğu meşru hizmetlerin de durmasına yol açabilir.
Papernot, böyle bir müdahalenin maliyetinin ve yaratacağı aksaklıkların “çok büyük” olabileceğini belirtti.
Yapay zekanın oluşturabileceği riskler tartışılıyor
Yapay zekaya ilişkin felaket senaryolarına karşı çıkan isimler de bulunuyor.
ABD Başkanı Donald Trump, yapay zekanın insanlığın sonunu getirebileceğine yönelik korkuları “aldatmaca” olarak nitelendirirken Meta CEO’su Mark Zuckerberg, gelişmenin yavaşlatılması çağrılarına karşı çıkıyor.
Sorbonne Üniversitesi’nden bilgisayar bilimi profesörü Jean-Gabriel Ganascia’ya göre “acil kapatma düğmesi” tartışması, yapay zekanın kendi iradesini geliştirerek kontrolden çıkacağı düşüncesini gereğinden fazla öne çıkarıyor. Ganascia, daha somut tehlikenin toplumların bu sistemlere giderek daha bağımlı hale gelmesi olduğunu belirtiyor.
