Google’ın AI Özetleriyle Sağlık Bilgilerinde Yaşam Riski Oluşturan Hatalar ve Geri Adımlar
sağlıkla ilgili sorgularında yapay zekâ destekli özetler üzerinden sunulan tavsiyelerin, özellikle pankreas kanseri hastalarına yönelik yüksek yağlı gıdalardan kaçınmaları yönündeki önerileriyle tartışmaların yeniden alevlenmesine yol açtı. The Guardian’da yayımlanan bir araştırmanın sonuçları, bu tür önerilerin yanlış ve tehlikeli olabileceğini gösterdi.
Bir diğer kritik bulgu ise karaciğer fonksiyon testleriyle ilgili hatalı bilgilerin sunulmasıydı. Bu yanlış bilgiler, karaciğer hastalığı olan kişilerde kendilerini sağlıklı sanmalarına neden olabilecek kadar etkili olabilir endişesini doğurdu. Tepkiler ardından, karaciğer kan testlerinde normal değerler nedir? gibi sorular için yapay zeka özetlerinin tamamen kapatıldığı belirtildi.
Şirket, bu kaldırma hareketiyle ilgili kendi kamuya açık açıklamasında ayrıntılı yorum yapmaktan kaçınsa da, The Verge’e konuşan sözcü Davis Thompson, sağlıkla ilgili konularda yüksek doğruluk için yoğun yatırım yaptıklarını ve bağlam eksikliği gibi sorunları gidermek için çaba gösterdiklerini ifade etti.
Bu olay, Google’ın yapay zekâ sisteminin sağlık alanındaki hatalara karıştığı ilk skandal değil. Geçmişte kullanıcıları pizzaya yapıştırıcı sürme ya da taş yemek gibi riskli eylemleri önerebildiği iddialarıyla da gündeme gelmiş ve halen çeşitli davaların konusu olmaya devam etmektedir.
