Yapay zekâ sektöründe daha güçlü ve daha hızlı modeller geliştirme yarışı sürerken, lider şirketlerin yöneticileri bu sürecin kontrol altına alınması gerektiğini tartışıyor. Anthropic, OpenAI ve xAI yetkilileri, gelişmiş yapay zekâ modellerinin geliştirilme hızının denetlenmesini savunuyor.
Sistemlerin kendi yeteneklerini geliştirebilecek seviyeye ulaşması ve bağımsız hareket eden yapay zekâ ajanlarının siber güvenlik riski oluşturması, sektördeki en büyük endişeler arasında gösteriliyor.
İlk adımı Anthropic attı
Yapay zekâ geliştirme hızının kontrollü ilerlemesi fikrini öne çıkaran Anthropic CEO'su Dario Amodei, yapay zekâ şirketlerinin güvenlik konusunda kendi kendilerini denetlememesi gerektiğini belirtti.
Şirket, bağımsız güvenlik uzmanlarına kapılarını açarak sistemlerin ve yeni modellerin düzenli şekilde denetlenmesini planlıyor.
OpenAI CEO'su Sam Altman da şirket üzerindeki kısa vadeli büyüme baskısını azaltmak amacıyla 2027'den önce halka açılmayacaklarını duyurdu.
Güvenlik endişeleri ile küresel rekabet karşı karşıya
Yapay zekâ sistemleri matematik, bilim ve kodlama gibi alanlarda geliştikçe siber güvenlik risklerinin de arttığı değerlendiriliyor. Ancak geliştirme hızının düşürülmesinin küresel rekabet üzerinde etkili olabileceği belirtiliyor.
ABD merkezli şirketlerin yavaşlaması durumunda Çinli rakiplerin aradaki farkı kapatabileceği değerlendiriliyor. DeepSeek tarafından geliştirilen V4.1-Flash modeli de bu rekabetin somut örneklerinden biri olarak gösteriliyor.
Bu durum, yapay zekâ güvenliğine yönelik hedeflerle ticari ve jeopolitik rekabeti karşı karşıya getiriyor.
Amodei'nin önerdiği üç aşamalı plan
Dario Amodei'nin önerdiği güvenlik modeli üç temel aşamadan oluşuyor.
- Bağımsız denetim: Bağımsız denetçiler, yapay zekâ modellerinin eğitim süreçlerini, güvenlik kurallarını ve modellerin kendisini inceleyecek.
- Ortak güvenlik standartları: Demokratik ülkelerdeki şirketler ve devletler ortak güvenlik standartları belirleyecek.
- Küresel kurallar: Çin'in de dahil olduğu küresel ölçekte bağlayıcı kurallar oluşturulması hedeflenecek.
Yapay zekâ dünyasında tartışmanın odağı böylece yalnızca en güçlü modeli geliştirmekten çıkıp, bu teknolojinin geliştirilme sürecinin güvenli ve kontrollü şekilde yönetilmesine doğru kayıyor.
