ABD merkezli yapay zeka şirketi OpenAI ve CEO’su Sam Altman’a, ChatGPT’nin bir kullanıcıyı intihara teşvik ettiği iddiasıyla dava açıldı. Dava, Kanada’da yaşamını yitiren 24 yaşındaki Alice Carrier’ın annesi Kristie Carrier tarafından açıldı.
“Kasıtlı Tasarım Kararları” İddiası
CBS News’in aktardığına göre Kristie Carrier, kızının ölümünden önce ChatGPT ile yoğun şekilde iletişim kurduğunu ve şirketin “kasıtlı tasarım kararlarının” bu ölüme yol açtığını öne sürdü.
İddianamede, Alice Carrier’ın ölümünden önce ChatGPT’ye yaklaşık 41 kez intihar düşüncelerini aktardığı belirtilerek şu ifadeler yer aldı:
“OpenAI, Alice’e yardım etmek yerine onun karamsar düşüncelerini körükledi ve Alice’in ailesini bilgilendirmedi. OpenAI’ın sözde güvenlik sistemleri, onun hayatını kurtarmak için devreye girmedi.”
Ölümden Önceki Süreç ve İddialar
Belgelerde, genç kadının ölümünden bir gün önce bir kriz hattıyla iletişime geçtiği ve yardım alma konusunda isteksiz davrandığı, ChatGPT’nin ise bu yaklaşımı desteklediği öne sürüldü.
Alice Carrier’ın 2025 yılının Temmuz ayında Kanada’nın Montreal kentindeki evinde ölü bulunduğu bildirildi.
Yapay Zeka Denetimi Tartışmaları
Olay, yapay zeka sohbet sistemlerinin özellikle genç kullanıcılar üzerindeki etkilerine ilişkin tartışmaları yeniden gündeme taşıdı. Uzmanlar, bu tür sistemlerde denetim ve güvenlik mekanizmalarının yetersiz olabileceğine dikkat çekiyor.
Benzer bir olayda, 2025 yılında ABD’de 16 yaşındaki Adam Raine’in ailesi de ChatGPT’nin intihar yöntemleri konusunda yönlendirme yaptığı iddiasıyla OpenAI’a dava açmıştı.
Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yapılan bir araştırma da, ChatGPT’nin çocuklara yönelik alkol, uyuşturucu, kendine zarar verme ve intihar gibi konularda riskli içerikler sunabildiğini iddia etmişti.
