ABD'de yaşayan 31 yaşındaki yazılım mühendisi Bowen Wan, epilepsi hastalığına bağlı olarak hayatını kaybetti. Wan'ın ailesi, ChatGPT'nin doktor kontrolü olmadan epilepsi ilacının dozunu azaltmasını teşvik ettiğini öne sürerek OpenAI'a dava açtı.
Dava dosyasında, yapay zekânın ilk aşamada Wan'a doktoruna danışmasını önerdiği ancak sonraki görüşmelerde ilaç dozunun değiştirilmesini destekleyen yanıtlar verdiği iddia edildi.
Dava dosyasına göre Wan, kullandığı epilepsi ilaçlarının düşünme ve konuşma becerileri üzerinde olumsuz etkileri olduğundan endişe ediyordu.
İşini kaybettikten sonra yeniden iş aramaya başlayan genç kadın, ilaçların neden olduğunu düşündüğü yan etkileri azaltmak amacıyla ChatGPT'ye danıştı.
Ailenin iddiasına göre Wan, ölümünden önceki haftalarda epilepsi tedavisinde kullandığı ilacın dozunu doktor gözetimi olmadan azaltmaya yönelik olarak yapay zekâdan tavsiye aldı.
Dava dosyasına göre Wan, Ocak 2026'da günlük 400 miligram olan epilepsi ilacının dozunu önce 300, ardından 200 miligrama düşürmeyi değerlendirdi.
ChatGPT'nin ilk konuşmalarda genç kadına doktoruna danışmasını önerdiği ancak sonraki görüşmelerde dozun bağımsız biçimde azaltılmasını destekleyen yanıtlar verdiği öne sürüldü.
Ailenin avukatları, yapay zekânın bu yaklaşımının Wan'ın ilaç kullanımıyla ilgili kararlarını etkilediğini ve gerekli tıbbi gözetimden uzaklaşmasına yol açtığını savundu.
Hafıza kaybı ve kafa karışıklığı yaşadı
Ailesinin aktardığına göre Wan, ilaç dozunu değiştirmesinin ardından kafa karışıklığı ve hafıza sorunları yaşamaya başladı.
Genç kadının ChatGPT ile yaptığı görüşmeler sırasında bu belirtilerden defalarca söz ettiği, ancak yapay zekânın yaşadığı sorunların ciddiyeti konusunda yeterli uyarıda bulunmadığı öne sürüldü.
Aile, ChatGPT'nin Wan'ın sağlık durumuna ilişkin şikâyetlerine rağmen ilaç değişikliğini destekleyen yanıtlar vermesinin ciddi bir güvenlik ihlali olduğunu iddia etti.
Avukatlar da yapay zekâ sisteminin tıbbi konularda yetkisini aşan yönlendirmelerde bulunduğunu ileri sürdü.
OpenAI'den açıklama
Davanın ardından OpenAI sözcüsü Drew Pusateri, yaşanan olayı son derece üzücü olarak nitelendirdi.
Pusateri, ChatGPT'nin profesyonel tıbbi bakımın yerine geçemeyeceğini vurgulayarak yapay zekânın kişilerin sağlıkla ilgili bilgileri anlamasına ve doktorlarıyla gerçekleştirecekleri görüşmelere hazırlanmasına yardımcı olabilecek bir araç olarak değerlendirilmesi gerektiğini belirtti.
Bowen Wan'ın ölümünde ChatGPT'nin verdiği yanıtların doğrudan etkili olup olmadığı henüz hukuken kesinleşmedi. Ailenin açtığı dava, yapay zekâ sistemlerinin sağlık alanında verdiği yanıtların güvenilirliğini ve olası hukuki sorumluluklarını yeniden tartışmaya açtı.
Uzmanların da önemle vurguladığı üzere epilepsi gibi ciddi hastalıklarda ilaç dozunun doktor kontrolü dışında değiştirilmesi, nöbetlerin yeniden ortaya çıkması veya şiddetlenmesi gibi hayati riskler taşıyabiliyor.
Olay, yapay zekâ araçlarının tıbbi tavsiye amacıyla kullanılmasının sınırlarını ve bu sistemlerin kullanıcıları ne ölçüde uyarması gerektiğine ilişkin tartışmaları yeniden gündeme taşıdı.
