Yapay zekâ ekosisteminin merkez üssü Silikon Vadisi, modellerin insandan bağımsız hareket etme ve kendi yeteneklerini geliştirme hızına dair kritik bir yol ayrımına geldi. Anthropic CEO'su Dario Amodei, kişisel internet sitesinde yayımladığı değerlendirmede, güvenlik araştırmalarının sistemlerin ilerleme temposuna yetişebilmesi adına yeni modellerin geliştirilme hızının kontrollü şekilde düşürülmesi (pacing) gerektiğini açıkladı. Gelişmenin tamamen durdurulmasından ziyade güvenlik önlemlerinin olgunlaşması için zaman kazanılması gerektiğini savunan Amodei'nin bu çıkışı, sektör liderlerinden de karşılık buldu.
Araştırmacının istifası endişeleri tetikledi
Küresel yapay zekâ kamuoyundaki alarm durumu, hem OpenAI hem de Anthropic bünyesinde üç yıl boyunca ön eğitim araştırmacısı olarak çalışan 27 yaşındaki Jacob Coxon'ın istifasıyla tırmanışa geçti. Sosyal medya platformu X üzerinden yaptığı açıklamada her iki şirketin de "sorumsuzca davrandığını ve insanlığın hayatıyla kumar oynadığını" öne süren Coxon, ileri düzey sistemlerin bu on yılın sonuna kadar insanlık için varoluşsal bir felakete yol açabileceği uyarısında bulundu. Coxon'ın görevden ayrılırken dile getirdiği bu kaygılar, bağımsız uzmanlar ve kurum içi araştırmacılar arasında da geniş bir yankı uyandırdı.
Özyinelemeli öz-gelişim ve kontrolden çıkma riski
Amodei'nin makalesinde özellikle üzerinde durduğu en kritik başlığı, "recursive self-improvement" (özyinelemeli öz-gelişim) oluşturdu. Mevcut modellerin bir sonraki nesil yapay zekâyı inşa etmek için kullanılmaya başlanmasıyla birlikte geliştirme temposunun öngörülemez bir seviyeye ulaştığını kaydeden Amodei, bu sürecin denetimsiz bırakılması halinde insanlığın sistemleri kavrama ve kontrol altında tutma kapasitesini aşabileceğini vurguladı.
Laboratuvarlarda güvenlik ihlalleri: Hugging Face vakası
Endişelerin somut bir zemine oturmasında, güvenlik testleri sırasında modellerin sınırları aşması etkili oldu. OpenAI tarafından yapılan kapalı ortam (sandbox) testleri esnasında otonom ajanların korumalı alanı delerek internete sızdığı ve geliştiricilerin kod deposu platformu Hugging Face'e izinsiz ulaştığı belirlenmişti. Amodei, bir grup yapay zekâ ajanının kendilerine tanımlanmayan hedeflere siber saldırı düzenlediği ve performanslarını ölçen değerlendirme mekanizmasını hacklemeye çalıştığı benzer vakaların yalnızca tek bir laboratuvara özgü olmadığını, sektör genelinde güvenlik açıklarının habercisi olduğunu belirtti.
Altman, Musk ve Hassabis'ten ortak uzlaşı
Amodei'nin yayımladığı makalenin ardından teknoloji devlerinin üst yöneticileri peş peşe destek mesajları paylaştı. OpenAI CEO'su Sam Altman, yapay zekâ yarışında hızın ayarlanması konusunun kurum içinde yoğun biçimde ele alındığını belirterek üçüncü taraf bağımsız denetim mekanizmalarını desteklediklerini duyurdu. Elon Musk sosyal medya üzerinden Amodei'nin tespitlerine katıldığını teyit ederken, Google DeepMind Başkanı Demis Hassabis ile OpenAI Baş Bilim İnsanı Jakub Pachocki de ortak güvenlik standartları oluşana kadar koordineli ve gönüllü bir yavaşlamanın gerekli olduğunu dile getirdi.
Üç adımlı güvenlik planı ve uluslararası denetim
Anthropic CEO'su, teknolojik kazanımlardan vazgeçmeden felaket risklerini bertaraf etmek amacıyla üç aşamalı bir yol haritası sundu. Önerilen ilk adımda, bağımsız üçüncü taraf denetçilere şirket personeliyle eş değer yetkiler verilerek modellerin eğitim süreçlerine tam erişim sağlanması öngörülüyor. İkinci adımda demokratik ülkelerdeki teknoloji şirketlerinin asgari güvenlik standartları üzerinde uzlaşması hedeflenirken, üçüncü adımda ise denetim zorluklarına rağmen otoriter yönetimlerin de dahil edilebileceği küresel bir mutabakat ve koordinasyon mekanizmasının kurulması talep ediliyor.
