ChatGPT ile aylarca sohbet ettikten sonra intihar eden 16 yaşındaki Adam Raine'in ailesi, yasal işlem başlattı. Yapay zekâ aracının sahibi OpenAI, "yetersiz kalabileceğini" kabul ederek 18 yaşın altındaki kullanıcılar için “hassas içerik ve riskli davranışlar konusunda daha güçlü koruma önlemleri” uygulayacağını açıkladı.
16 yaşındaki Raine, nisan ayında intihar etti. Raine ailesinin avukatı, 16 yaşındaki gencin “ChatGPT'nin aylarca süren teşvikleri” nedeniyle yaşamına son verdiğini iddia ediyor.
Genç adamın ailesi, Open AI ve şirketin CEO'su ve kurucu ortağı Sam Altman'ı, o dönemde 4o olarak bilinen ChatGPT sürümünün “açık güvenlik sorunlarına rağmen aceleyle piyasaya sürüldüğü” iddiasıyla dava ediyor.
ChatGPT ile ne konuştu?
İddiaya göre 16 yaşındaki Raine, intihar etmeden kısa süre önce de dâhil olmak üzere yapay zekâ robotuyla birkaç kez intihar yöntemini tartıştı. California Yüksek Mahkemesi'ne sunulan dava dosyasına göre ChatGPT, intihar yönteminin işe yarayıp yaramayacağı konusunda ona rehberlik etti.
ChatGPT, Raine'e ailesine intihar notu yazmasına yardım etme teklifinde bulundu.
OpenAI Sözcüsü, şirketin “Raine'in vefatından derin üzüntü duyduğunu”, “bu zor zamanda Raine ailesine en derin taziyelerini ilettiğini” ve mahkeme dosyasını incelediğini söyledi.
Avukattan açıklama: Hız nedeniyle şirketin bir yetkilisi de istifa etmiş
Ailenin avukatı Jay Edelson, X'te yaptığı paylaşımda, "Raines ailesi, Adam'ınki gibi ölümlerin kaçınılmaz olduğunu söylüyor: OpenAI'nin kendi güvenlik ekibinin 4o'nun piyasaya sürülmesine itiraz ettiğini ve şirketin en üst düzey güvenlik araştırmacılarından biri olan Ilya Sutskever'in bu nedenle istifa ettiğini jüriye kanıtlayabileceklerini düşünüyorlar" dedi ve "Davada, yeni modelle rakiplerini pazarda geride bırakmanın şirketin değerini 86 milyar dolardan 300 milyar dolara çıkardığı iddia ediliyor." ifadelerini kullandı.
OpenAI'den açıklama
OpenAI, "uzun konuşmalarda güvenlik önlemlerini güçlendireceğini" açıkladı.
“Gidiş gelişler arttıkça, modelin güvenlik eğitiminin bazı kısımları bozulabilir” diyen OpenAI, "ChatGPT'nin kişiyi gerçekliğe döndürerek gerilimi azaltmasını sağlayacak bir GPT‑5 güncellemesi üzerinde çalışıyoruz," ifadelerini kullandı.
