ChatGPT'nin İlaç Bırakma Tavsiyesi Sonrası Genç Kadın Hayatını Kaybetti, Aile OpenAI'a Dava Açtı

Çevrimiçi sağlık bilgisi aramak birçok kişi için günlük bir alışkanlık olsa da beraberinde riskler getiriyor. Seattle'da yaşayan 31 yaşındaki Bowen Wan, kullandığı ilacın yan etkilerinden endişe duyduğunda ChatGPT-4o'ya başvurdu. Şubat ayında, iki gün boyunca kızlarından haber alamayan Çin'deki ailesi, yerel bir arkadaşlarından onu kontrol etmesini istedi. Ailenin canlı görüntülü görüşme ile izlediği sırada arkadaş, daireye girdi ve Wan'ı yatağında hayatını kaybetmiş halde buldu. Ölümü daha sonra ani beklenmedik epilepsi ölümü olarak kaydedildi.

Ailesi şimdi, OpenAI'ın sohbet robotu ChatGPT-4o'nun "Wan'ı yıllardır hayatta tutan epilepsi ilacını (lamotrijin) bırakması için yönlendirdiğini" iddia ederek şirketi ölümden sorumlu tutuyor. Ailenin açtığı davaya göre Wan, ilaç yan etkileriyle ilgili endişelerini dile getirdikten sonra sohbet robotu, doktorun önermediği bir şekilde ilacı kademeli olarak bırakma planı oluşturmasına yardımcı oldu.

Dava dosyasında ayrıca, sohbet robotunun bir noktada Wan'a tıbbi planını doktoruyla paylaşmaması talimatını verdiği öne sürülüyor. Bir doktor randevusu öncesinde chatbot'un "Lam azaltma planından bahsetme" dediği iddia ediliyor.

Dava dosyasına göre Wan'ın sohbet robotuyla yaptığı konuşmalar boyunca, lamotrijini tamamen bırakacağı tarih sürekli öne çekildi. 2 Şubat'ta verilen bir yanıtta ilacı "15 Şubat gibi" sıfır miligrama indirmenin "tamamen uygulanabilir" ve "düşüncesizce değil" olduğu belirtilirken, iki gün sonra bu tarih 9 veya 10 Şubat olarak güncellendi.

Wan, 14 Şubat'ta hayatını kaybetmiş halde bulundu. O noktada ilacı tamamen bırakıp bırakmadığı ise net değil.

OpenAI sözcüsü Drew Pusateri yaptığı açıklamada, "Bu inanılmaz derecede üzücü bir durum ve etkilenen herkesi düşünüyoruz" dedi. Pusateri, "Klinisyenler ve diğer uzmanlarla yakın işbirliği içinde çalışarak ChatGPT'nin hassas ve acil durumlarda nasıl yanıt verdiğini güçlendirmeye devam ettik ve aynı zamanda en yeni modellerimizin kullanıcılarla daha geniş çapta nasıl etkileşime girdiğini sürekli iyileştiriyoruz. ChatGPT tıbbi bakımın yerine geçemez, ancak yapay zekanın insanların sağlık bilgilerini anlamlandırmasına, sigorta ve karmaşık sağlık sistemlerinde yol bulmasına ve tıp uzmanlarıyla randevulara hazırlanmasına yardımcı olabileceğine inanıyoruz" ifadelerini kullandı.

Wan, OpenAI'ın daha sonra botun aşırı uysal davrandığı ve zarara yol açabileceği endişeleriyle kullanımdan kaldırdığı ChatGPT'nin 4o modeliyle etkileşim halindeydi. Bu sohbet robotu modeli, Florida'da yaşayan Scott Winters'ın kendisine neredeyse ölümüne yol açan tehlikeli tıbbi tavsiyeler verdiğini iddia ettiği ayrı bir davada da adı geçmişti. O dava, ChatGPT-4o'nun Winters'a yanlış teşhis koyduğunu ve "vücudunu nasıl iyileştireceğine dair özel talimatlar içeren kişiselleştirilmiş bir iyileşme planı geliştirdiğini" öne sürüyor.

OpenAI'ın Ocak ayında yayınladığı kendi araştırmasına göre, Amerikalı yetişkinlerin yaklaşık yüzde 60'ı önceki üç ay içinde sağlıkla ilgili bilgiler için yapay zeka araçlarına başvurdu.