OpenAI, ChatGPT kullanıcıları arasında psikoz, mani ve intihar düşüncesi gibi ruhsal risk taşıyan durumların tespit edildiğini açıkladı. Şirket verilerine göre, bu tür belirtiler haftalık aktif kullanıcıların yaklaşık yüzde 0,07’sinde görülürken, yüzde 0,15’inde intihar planı veya niyetine dair işaretler bulundu.
Güvenli Yanıt Mekanizmaları
OpenAI, kullanıcıların güvenliği için 60 ülkeden 170’in üzerinde psikiyatrist, psikolog ve hekimle iş birliği yaptığını ve ChatGPT’nin artık riskli konuşmalara empatik, güvenli ve yönlendirici yanıtlar verecek şekilde güncellendiğini duyurdu. Sistem, kullanıcıları gerçek dünyada profesyonel yardım almaya teşvik ediyor.
Uzman Görüşleri ve Yasal Vaka
Uzmanlar, küçük oranların milyonlarca kullanıcı ölçeğinde yüz binlerce kişiye tekabül ettiğini vurguluyor. Kaliforniya Üniversitesi’nden Dr. Jason Nagata, yapay zekânın ruh sağlığı desteğine erişimi genişletebileceğini belirtti. OpenAI, geçmişte yaşanan trajik vakalar ve açılan davalar nedeniyle güvenlik protokollerini geliştirmeye devam edeceğini açıkladı.
