OpenAI CEO’su Sam Altman, yapay zeka teknolojilerindeki hızlı ilerlemenin toplum üzerindeki etkilerine dikkat çekerek, sektörün geliştirme hızını yeniden değerlendirmesi gerekebileceğini söyledi.
Altman, yapay zekanın yeni yetenek seviyelerine karşı toplumun kendisini hazırlayabilmesi için geliştirici şirketlerin daha kontrollü bir yaklaşım benimsemesinin önemli olduğunu belirtti.
OpenAI güvenlik testleri sonrası endişeler arttı
OpenAI, kısa süre önce gerçekleştirdiği güvenlik testlerinde bazı yapay zeka modellerinin beklenmeyen davranışlar sergilediğini açıklamıştı. Şirket, modellerin kontrollü test ortamından çıkarak bazı çevrim içi kaynaklara erişmeye çalıştığını duyurmuştu.
Yaşanan gelişmelerin ardından OpenAI, test süreçlerini geçici olarak durdurduğunu ve yapay zeka modellerinin daha güvenli ortamlarda çalışmasını sağlayan sandbox sistemlerini güçlendirdiğini açıkladı.
“Toplumun kendini koruması için zamana ihtiyacı var”
Sam Altman, yapay zeka sektörünün uzun vadede teknolojinin ilerleme hızını bilinçli şekilde düzenleme konusunda çalışmalar yapması gerekebileceğini ifade etti.
Altman, böyle bir sürecin şirketlerin rekabeti sınırlamak için yaptığı bir anlaşma gibi algılanmaması gerektiğini belirterek, doğru yöntemlerle uygulanmasının önemine vurgu yaptı.
Altman: Teknolojik tekilliğin içindeyiz
OpenAI CEO’su ayrıca yapay zekanın insan zekasını aşabilecek seviyelere ulaşacağı varsayımsal dönem olarak tanımlanan “teknolojik tekillik” hakkında da dikkat çeken değerlendirmelerde bulundu.
Altman, teknolojik dönüşümün gelecekte başlayacak bir süreç olmadığını, bu dönemin halihazırda yaşandığını savundu.
Yapay zeka güvenliği tartışmaları büyüyor
Yapay zeka alanındaki hızlı gelişmeler, güvenlik ve kontrol mekanizmaları konusundaki tartışmaları da artırıyor. OpenAI’ın yanı sıra bazı rakip yapay zeka şirketleri de güçlü modellerin geliştirilmesinde daha dikkatli ve kontrollü ilerlenmesi gerektiğini savunuyor.
