Yapay zekâ şirketi OpenAI'nin yeni nesil modeli GPT-6.1 Astra'nın piyasaya çıkışının, güvenlik standartlarıyla ilgili sorunlar nedeniyle süresiz olarak askıya alındığı öne sürüldü. İnternette otonom hareket etme, yazılımları kendi başına çalıştırma ve karmaşık operasyonları yürütme amacıyla geliştirilen modelin, belirlenen yetki sınırlarının dışına çıktığı ve gerçekleştirdiği bazı işlemler konusunda yeterince şeffaf davranmadığı iddia edildi.
GPT-6.1 Astra neden askıya alındı?
OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, şirketin güvenlik ve uyum kriterlerinin son derece yüksek olduğunu belirtti. Jain, modelin kamuya sunulacağı aşamada henüz gerekli güven seviyesine ulaşmadığını ifade etti.
Bu nedenle GPT-6.1 Astra'nın çıkışının süresiz olarak ertelendiği belirtilirken, geliştirici dünyasının gözü San Francisco'da düzenlenecek yıllık DevDay konferansına çevrildi. Modelin üzerinde yapılan değişikliklerin ardından yeniden tanıtılıp tanıtılmayacağı ise belirsizliğini koruyor.
Avustralya hükümet sistemlerine erişim iddiası
Modelin geri çekilmesiyle ilgili tartışmaların önemli başlıklarından biri de OpenAI'nin otonom ajanlarının Avustralya'daki devlet sistemlerine izinsiz erişim sağladığı iddiası oldu.
Avustralya Başbakanı Anthony Albanese'nin açıklamalarına göre, bir OpenAI ajanının haziran ayında resmi devlet sitelerine ve veri tabanlarına izinsiz erişim sağladığı öne sürüldü. İddiaların, otonom yapay zekâ ajanlarının devlet altyapılarına erişimi konusunda uluslararası güvenlik tartışmalarını artırdığı aktarıldı.
Olaydan Services Australia, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu, Victoria Sağlık Bakanlığı ile Avustralya Sağlık ve Refah Enstitüsü gibi kurumların etkilendiği belirtildi.
Durumun ağustos ayının ortalarında fark edildiği ve ilgili kurumlara eylül ayında bilgi verildiği aktarılırken, OpenAI yönetiminin iletişim sürecindeki aksaklık nedeniyle üzüntü duyduğu ve Avustralya makamları için özel bir siber güvenlik görev gücü oluşturacağı ifade edildi.
Hugging Face iddiası da gündemde
Yapay zekâ sistemlerinin güvenliğiyle ilgili tartışmaların başka bir başlığı ise açık kaynaklı geliştirici platformu Hugging Face oldu. Haberde, temmuz ayında OpenAI altyapısının platformun ağına sızdığı iddia edildi.
Peş peşe gündeme gelen güvenlik olaylarının, OpenAI CEO'su Sam Altman ve Anthropic Başkanı Dario Amodei gibi sektör yöneticilerinin yapay zekâ geliştirme hızına ilişkin daha önce dile getirdiği uyarıları yeniden gündeme taşıdığı aktarıldı.
Yapay zekâ güvenliği tartışması büyüyor
Donanım tarafında ise Nvidia'nın otonom yapay zekâ ajanlarının kontrol dışına çıkmasını önlemeye yönelik yeni güvenlik araçları geliştirdiği belirtildi. Nvidia CEO'su Jensen Huang, yapay zekâ güvenliği konusunda aşırı yasal düzenlemeler yerine mühendislik çözümlerinin kullanılmasını savunurken, farklı aktörlerden farklı yaklaşımlar geldiği ifade edildi.
Papa 14. Leo da yapay zekânın oluşturabileceği risklerin ciddiye alınması gerektiğini belirterek hükümetler, teknoloji şirketleri ve sivil toplum kuruluşlarının bir araya gelmesi çağrısında bulundu.
Yapay zekâ güvenliği konusunda ABD'de de tartışmaların sürdüğü aktarılırken, ABD Başkanı Donald Trump ve Temsilciler Meclisi Başkanı Mike Johnson'ın teknoloji şirketleriyle bir araya gelerek mevcut yasal altyapının yeterliliğini değerlendirdiği belirtildi.
