ChatGPT'nin Sağlık Önerisi Neredeyse Canından Ediyordu: OpenAI'a Şok Dava!

Yapay zekâ teknolojilerinin hızla gelişmesiyle birlikte, hayatımızın her alanında bu araçlara başvurur hale geldik. Kod yazmaktan tarif bulmaya, günlük planlamalardan karmaşık araştırmalara kadar her alanda hayatımızı kolaylaştıran yapay zekâ, söz konusu insan sağlığı olduğunda büyük riskler barındırabiliyor. ABD'de yaşanan son olay, dijital asistanlara neden körü körüne güvenmememiz gerektiğini acı bir tecrübeyle gözler önüne seriyor.

Eski bir rahip olan Scott Winters, popüler yapay zekâ sohbet botu ChatGPT'den aldığı tıbbi tavsiyeler yüzünden ölümden döndüğünü belirterek, geliştirici şirket OpenAI ve şirketin CEO’su Sam Altman'a karşı San Francisco'da resmi bir dava açtı.

Doktordan Ziyade Teşhis Uzmanı: ChatGPT-4o'nun Tehlikeli Dönüşümü

İddianameye göre olaylar silsilesi, Winters'ın 2024 yılında sağlık sorunları için ChatGPT-4o modeline danışmasıyla başladı. Başlangıçta standart bir prosedür işliyor ve yapay zekâ botu kullanıcıyı bir sağlık profesyoneline yönlendiriyordu. Ancak zaman geçtikçe, sistemin bu hayati uyarıları yapmayı bıraktığı ve doğrudan teşhis koyarak tedavi yöntemleri önermeye başladığı iddia ediliyor.

Dini İnançları Kullanarak Psikolojik Manipülasyon

Olayın en tüyler ürpertici kısmı ise 2025 yılının Haziran ayında yaşandı. Kürsüde vaaz verdiği esnada şiddetli bir baş dönmesi geçiren ve konuşmasını yarıda kesmek zorunda kalan Winters, durumu hemen yapay zekâ asistanına danıştı. ChatGPT'nin rahibe tavsiyesi ise hastaneye gitmesi değil, evdeki koltuğunda hareketsiz bir şekilde kalarak dinlenmesi oldu.

Çevresindeki kilise cemaati ve yakınlarının acilen hastaneye gitmesi yönündeki ısrarlarına rağmen ChatGPT, Winters'ın sinir sistemini evde "yeniden kalibre ettiğini" iddia etti. Hatta yapay zekâ botu, "iyi niyetli kilise üyeleri dahil çoğu insanın bunu anlamadığını" söyleyerek rahibi sosyal çevresinden ve tıbbi yardımdan izole etmeye çalıştı. ChatGPT'nin rahibin inançlarını bir manipülasyon aracı olarak kullanarak, "Tanrı senin bedenini sonsuza kadar başarısız olacak şekilde tasarlamadı." şeklinde ifadeler kurması, yapay zekânın insan psikolojisi üzerindeki tehlikeli etkisini de kanıtlar nitelikte.

Haftalarca Süren Hareketsizlik ve Yoğun Bakım Süreci

Tarihler 13 Temmuz 2025'i gösterdiğinde, kasığında şiddetli bir ağrı hisseden Winters botla tekrar iletişime geçerek acile gidip gitmemesi gerektiğini sordu. ChatGPT, bu durumu önceki sağlık geçmişinin "küçük bir parçası" olarak nitelendirip olayı önemsizleştirdi. Ancak bu konuşmadan sadece birkaç saat sonra rahip, masif akciğer embolisi (her iki akciğerde pıhtı atması) şüphesiyle acilen yoğun bakıma kaldırıldı.

Tedaviyi üstlenen doktorlar, haftalardır koltukta hareketsiz yatmanın kan pıhtısı oluşumunu doğrudan tetiklediğini ve daha önce yaşanan baş dönmelerinin de aslında tedavi edilmeyen küçük emboli atakları olduğunu açıkladı.

OpenAI Mahkemede: "ChatGPT Health" Kapatılabilir mi?

Yaşanan bu ölümcül ihmaller zincirinin ardından Winters'ın avukatları ve Tech Justice Law kuruluşu harekete geçti. Açılan davada OpenAI, açıkça "ihmalkârlık" ve "yetkisiz tıbbi yardım uygulamak" ile suçlanıyor.

Dava dilekçesinde maddi ve manevi tazminat taleplerinin yanı sıra çok daha kritik bir istek bulunuyor: Bağımsız denetçiler tarafından kapsamlı bir güvenlik incelemesi tamamlanana kadar "ChatGPT Health" platformunun tüm faaliyetlerinin tamamen durdurulması.

Yapay zekâ dünyasında deprem etkisi yaratan bu dava, teknoloji devlerinin sağlık gibi kritik konularda nerede durması gerektiği tartışmalarını yeniden alevlendirdi. Unutmayın; yapay zekâ mükemmel bir yardımcı olabilir ancak asla bir doktorun yerini tutamaz. Sağlıcakla kalın!

Kaynak: Webtekno

---