ABD merkezli New York Magazine, yapay zekâ sohbet botlarının cinsel içerikli kullanımına dair bir analiz yayımladı. Yazıda, internet tarihinin hemen her platformunun zamanla pornografik içeriklerle karşılaştığı ve platformların bu duruma farklı yanıtlar geliştirdiği hatırlatıldı.
Analize göre, ChatGPT de benzer bir süreçten geçiyor. Kullanıcıların bir bölümü sistemi erotik içerik üretimi ve cinsel sohbetler için zorlamaya başladı. OpenAI, geniş kullanıcı kitlesi nedeniyle bu konuda kritik bir karar aşamasında bulunuyor ve vereceği kararın sektörde belirleyici olabileceği belirtiliyor.
OpenAI CEO’su Sam Altman, yetişkin kullanıcılar için cinsel içerik kısıtlamalarının gevşetilmesine prensipte açık. Bu yaklaşım, “yetişkinleri yetişkin gibi görmek” anlayışıyla savunuluyor. Ancak, analize göre bu görüş şirket içinde ve teknoloji dünyasında tartışmalara yol açıyor.
Olası gevşemelerin riskleri de vurgulanıyor. Bunlar arasında çocukların korunması, kullanıcıların yapay zekâya duygusal bağımlılık geliştirmesi ve gerçek insan ilişkilerinin zayıflaması yer alıyor. Analizde, yapay zekâ şirketlerinin ortak bir politika izlemediği, bazı platformların yetişkin içeriklere açık yaklaştığı, bazılarının ise tamamen yasaklayıcı olduğu ifade edildi.
Yazıda, tartışmanın yalnızca içerik politikalarıyla sınırlı olmadığı, yapay zekânın insan yaşamındaki rolü ve sınırlarına ilişkin daha geniş bir etik sorunun parçası olduğu değerlendiriliyor.
