OpenAI, çocukların ChatGPT kullanımında güvenliğini artırmak amacıyla yeni önlemler almaya hazırlanıyor. Şirket, bu ay içinde ebeveyn kontrolü özelliğini devreye sokmayı planlıyor.
NTV’nin derlediği habere göre, sistem aynı zamanda kullanıcıların yaşını otomatik olarak tahmin edecek. Eğer sistem bir kişinin 18 yaşın altında olduğunu belirlerse, sohbet botu daha güvenli ve yaşa uygun bir deneyim sunacak.
OpenAI CEO’su Sam Altman, yeni önlemleri şöyle açıkladı:
Yaş tahmini, kullanıcıların davranış biçimlerine göre yapılacak.
Şüpheli durumlarda, güvenlik gerekçesiyle “18 yaş altı” deneyimi varsayılan olarak uygulanacak.
Bazı ülkelerde veya özel durumlarda kimlik doğrulaması talep edilebilecek.
18 yaş altı kullanıcılar için flört içerikli diyaloglar ve intihar yönlendirmeleri engellenecek.
Bir çocuk intihar düşüncesi dile getirirse, ebeveynler bilgilendirilecek ve gerekirse yetkililere haber verilecek.
Bu adımlar, OpenAI’ye açılan yüksek profilli bir davanın ardından geldi. ABD’de bir aile, ChatGPT’nin “intihar koçu” gibi davranarak genç oğullarının yaşamına son vermesine yol açtığını iddia ederek şirkete dava açmıştı. Bu durum, kamuoyu ve düzenleyicilerin yoğun incelemesine neden oldu.
OpenAI’nin yeni güvenlik önlemleri, yapay zekâ destekli sohbet botlarının genç kullanıcılar için daha güvenli ve kontrollü bir deneyim sunmasını amaçlıyor.
