Google, "Hayati Risk" Taşıyan Hatalar Yüzünden Sağlık Aramalarında Yapay Zekayı Susturdu

Google

Teknoloji devi Google, arama motoru deneyimini kökten değiştirmeyi hedeflediği yapay zeka destekli özet özelliği "AI Overview" ile yine eleştiri oklarının hedefinde. Henüz Türkiye'deki kullanıcılara açılmamış olsa da, global çapta büyük ses getiren bu özellik, sağlık gibi kritik konularda verdiği ölümcül tavsiyeler nedeniyle sessiz sedasız devre dışı bırakıldı.

Kullanıcıların arama sorgularına hızlı ve derlenmiş yanıtlar sunmayı vadeden bu sistemin, özellikle tıbbi konularda "hayati hatalar" yaptığı ortaya çıktı. İşte teknoloji dünyasında ve tıp çevrelerinde tartışma yaratan o skandalın detayları.

Pankreas Kanseri Hastalarına "Ölümcül" Diyet Önerisi

The Guardian tarafından yapılan ve teknoloji gündemine bomba gibi düşen bir araştırmaya göre, Google'ın yapay zeka algoritması, tıbbi gerçeklikten tamamen kopuk yanıtlar üretti. En çarpıcı ve tehlikeli örneklerden biri, pankreas kanseri teşhisi konulan hastalarla ilgili yapılan aramalarda görüldü.

Yapay zeka, pankreas kanseri olan kişilere yüksek yağlı gıdalarla beslenmelerini önerdi. Oysa tıp uzmanları, pankreasın yağ sindiriminde kritik bir rol oynadığını ve kanserli hastaların sindirim sistemini zorlamamak adına tam tersine, düşük yağlı diyetler uygulaması gerektiğini belirtiyor. Uzmanlar, yapay zekanın bu tavsiyesini "son derece tehlikeli" ve hastanın yaşam süresini kısaltabilecek bir hata olarak nitelendirdi.

Karaciğer Testlerinde Yanıltıcı Bilgiler

Yapay zekanın halüsinasyonları (yanlış bilgi üretmesi) sadece diyet tavsiyeleriyle sınırlı kalmadı. Sistemin, karaciğer fonksiyon testlerini yorumlarken de ciddi hatalar yaptığı tespit edildi.

Google AI Overview, karaciğer hastalığı belirtisi olabilecek anormal kan değerlerini "normal" olarak sınıflandıran yanıtlar üretti. Bu durum, ciddi bir karaciğer rahatsızlığı olan kullanıcıların, kendilerini sağlıklı sanarak doktora başvurmasını engelleyebilecek kadar kritik bir risk taşıyor. Gelen yoğun tepkiler ve The Guardian'ın ifşası sonrasında, Google "Karaciğer kan testlerinde normal değerler nedir?" gibi spesifik sağlık sorgularında yapay zeka özetlerini tamamen kaldırmak zorunda kaldı.

Google'dan "Bağlam Eksikliği" Savunması

Skandalın patlak vermesinin ardından gözler Google cephesine çevrildi. Şirket, özelliği sessizce geri çekerken resmi bir basın toplantısı düzenlemek yerine, sözcüleri aracılığıyla açıklama yapmayı tercih etti.

Google sözcüsü Davis Thompson, The Verge'e yaptığı açıklamada, şirketin sağlık konularında yüksek doğruluk sağlamak için yoğun bir yatırım ve çalışma içinde olduğunu savundu. Thompson, yaşanan hataları "bağlam eksikliği" olarak tanımlayarak, bazı durumlarda yapay zekanın bilgiyi yanlış ilişkilendirdiğini kabul etti. Şirket, gerekli iyileştirmelerin yapıldığını ve sistemin daha güvenli hale getirileceğini belirtse de, sağlık gibi "şakaya gelmeyen" bir alanda bu denli büyük hataların nasıl denetimden kaçtığı sorusu yanıtsız kaldı.

Pizzaya Yapıştırıcı, İnsanlara Taş Yemek...

Bu olay, Google'ın üretken yapay zekasının karıştığı ilk vukuat değil. Hatırlanacağı üzere, sistem daha önce de internetteki trol paylaşımları gerçek bilgi sanarak kullanıcılara şok edici tavsiyeler vermişti:

• Peynirin pizzadan düşmemesi için sosun içine toksik olmayan yapıştırıcı katılmasını önermişti.

• Günlük mineral ihtiyacı için insanların küçük taşlar yiyebileceğini iddia etmişti.

Google, arama motoru pazarındaki liderliğini korumak ve rakipleriyle yarışmak adına yapay zekayı sistemlerine entegre etmekte aceleci davranıyor gibi görünse de, sağlık gibi YMYL (Your Money Your Life - Paran ya da Hayatın) kategorisindeki içeriklerde yapılan hatalar, şirketin güvenilirliğine büyük darbe vuruyor.

Şu an için sağlık aramalarında geleneksel, kaynak gösteren mavi linklere geri dönülmüş durumda. Ancak Google'ın bu "hayati" dersi alıp almadığını zaman gösterecek.