Yapay zekânın çocuklar ve gençler üzerindeki etkileri son yıllarda dünya genelinde yoğun tartışmalara yol açarken, OpenAI bu alanda dikkat çekici bir adım attı. Şirket, genç kullanıcıları korumayı hedefleyen “yaş tahmini” özelliğini ChatGPT’ye entegre ettiğini duyurdu.
OpenAI, özellikle reşit olmayan kullanıcılara uygunsuz içerik sunulmasıyla ilgili eleştirilerin ardından güvenlik politikalarını sıkılaştırma kararı aldı. Geçtiğimiz yıl, 18 yaş altındaki kullanıcılara erotik içerik üretilmesine yol açan bir hata nedeniyle kamuoyuna açıklama yapmak zorunda kalan şirket, bu yeni sistemle benzer riskleri en aza indirmeyi amaçlıyor.
Yaş tahmini özelliği nasıl çalışıyor?
Yeni sistem, kullanıcıların verdiği bilgiler ve platform üzerindeki davranışlarını analiz ederek yaş tahmini yapıyor. Değerlendirilen sinyaller arasında kullanıcının beyan ettiği yaş, hesabın aktif olduğu süre, kullanım alışkanlıkları ve genellikle hangi saatlerde çevrim içi olduğu gibi unsurlar bulunuyor.
Eğer bir hesabın sahibinin 18 yaşın altında olduğu yönünde güçlü bir tahmin oluşursa, cinsellik, şiddet ve benzeri hassas başlıkları filtreleyen koruma mekanizmaları otomatik olarak devreye giriyor. Böylece sohbetlerde daha güvenli içerik sınırları uygulanıyor.
Yanlış sınıflandırma için kimlik doğrulama
Sistem tarafından yanlışlıkla reşit olmayan olarak işaretlenen kullanıcılar için de itiraz yolu açık tutuluyor. Bu kişiler, OpenAI’ın kimlik doğrulama ortağı Persona üzerinden selfie göndererek hesaplarının “yetişkin” statüsünü yeniden doğrulatabilecek.
OpenAI yetkilileri, yeni özellikle birlikte hem çocukların dijital ortamda daha iyi korunmasının hem de yetişkin kullanıcıların güvenli şekilde hizmet almaya devam etmesinin hedeflendiğini vurguluyor.
