Yapay zekâ sistemlerinin kontrolden çıkması ve insanlık için ciddi risk oluşturması ihtimali teknoloji dünyasının gündemindeki yerini korurken, Anthropic bünyesinden dikkat çeken bir değerlendirme geldi. Şirketin araştırmacılarından Evan Hubinger, kişisel tahminine göre yapay zekânın önümüzdeki 10 yıl içinde tüm insanları öldürme ihtimalinin yüzde 10'dan fazla olduğunu söyledi.
Hubinger ayrıca, süper zekânın insan amaçlarıyla uyumlu çalışmasını güvence altına alma konusunda henüz bir çözüm planlarının bulunmadığını belirtti.
Jacob Coxon istifa etti, şirketleri eleştirdi
Anthropic araştırmacısı Jacob Coxon da güvenlik endişelerini gerekçe göstererek şirketten ayrıldığını açıkladı. Coxon, X hesabından yaptığı paylaşımda Anthropic ve OpenAI'ın yapay zekâ geliştirme yaklaşımını eleştirdi.
Coxon, iki şirketin de sorumlu davranmadığını savunarak, “Doğrudan kendi kendini geliştiren süper zekâya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar” dedi.
“Bu teknolojinin gücünü küçümsemeyin”
Yapay zekânın kendi kendini geliştirmesi, sistemlerin sınırlı insan müdahalesiyle yeteneklerini artırabilmesi anlamına geliyor. “Özyinelemeli kendini geliştirme” olarak adlandırılan bu süreç henüz tam anlamıyla mümkün olmasa da yapay zekâ laboratuvarları bu yönde çalışmalar yürütüyor.
Coxon, teknolojinin ulaşabileceği kapasiteye ilişkin değerlendirmesinde şu ifadeleri kullandı:
“Bu teknolojinin gücünü küçümsemeyin. Bunlar yakında her sistemi hackleyebilen, herhangi bir alanda bir gecede devrim yaratabilen ve gerçek güç ile kaynaklar elde edebilen insanüstü sistemler olacak. Bu alanların her birindeki ilerlemeye hepimiz tanık olduk ve ilerleme yavaşlamıyor”
Araştırmacı, sektördeki endişelerin boyutunu ise “Yapay zekâyı geliştiren insanlar, bu teknolojinin içinde bulunduğumuz on yılın sonuna kadar hepimizi öldürebileceğine gerçekten inanıyor” sözleriyle anlattı.
Evan Hubinger: “Henüz bir planımız yok”
Coxon'ın açıklamalarından saatler sonra Anthropic'in yapay zekâ sistemlerini insan amaçlarıyla uyumlu hale getirmeye yönelik çalışmalarının liderlerinden Evan Hubinger de konuya ilişkin değerlendirmede bulundu.
Hubinger, meslektaşı Coxon'ın değerlendirmesinin doğru olduğunu belirterek şirketin çalışmalarına inandığını ancak süper zekânın insan amaçlarıyla uyumlu hale getirilmesi konusunda henüz çözüm planlarının bulunmadığını söyledi.
Hubinger'ın X hesabından yaptığı açıklama şöyle:
“Jacob bu konuda haklı; yapay zekânın tüm insanları öldürebileceğine gerçekten inanıyoruz! Ben şahsen önümüzdeki on yıl içinde bunun gerçekleşme ihtimalinin yüzde 10'dan fazla olduğunu düşünüyorum. Anthropic'in elinden gelenin en iyisini yaptığına inanıyorum, ancak süper zekânın insan amaçlarıyla uyumunu sağlama sorununu çözmek için henüz bir planımız yok ve açıkça bu yönde ilerlediğimiz de söylenemez.”
Anthropic daha önce de kontrol kaybı riskine dikkat çekmişti
Şirket içinden gelen bu açıklamalardan önce Anthropic de yapay zekâ sistemlerinin kontrolünden çıkılması ihtimaline ilişkin uyarılarda bulunmuştu. Şirketin haziran ayında yayımladığı değerlendirmede, “tam anlamıyla özyinelemeli kendini geliştirmenin, insanların yapay zekâ sistemleri üzerindeki kontrolünü kaybetme riskini de artırabileceğini” belirtilmişti.
Şirketin blog yazısında ayrıca, “Sistemler kendilerinden sonraki nesilleri tamamen geliştirebilecek kapasiteye ulaşırsa onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir” değerlendirmesine yer verilmişti.
Yapay zekâda kontrol kaybı tartışması büyüyor
Yapay zekâ sistemlerinin kontrolünün kaybedilmesi ihtimali teknoloji sektöründe uzun süredir tartışılıyor. Tesla ve SpaceX CEO'su Elon Musk da son yıllarda yapay zekânın insanlık için tehdit oluşturabileceği yönündeki uyarılarını sürdürüyor.
Önde gelen araştırmacılar ve akademisyenler de yapay zekâ şirketlerinin geliştirdikleri sistemler üzerindeki denetimini kaybetme ihtimaline dikkat çekiyor. Anthropic araştırmacılarının son açıklamaları ise süper zekâ ve insanlığın geleceğine ilişkin tartışmaları yeniden gündeme taşıdı.
