ChatGPT Güvenlik İddiaları ve Tazminat Talebi: Kızının İntiharı Üzerine Açılan Dava
San Francisco’daki eyalet mahkemesinde açılan dava, OpenAI ve ChatGPT’nin kullanıcı güvenliği konusundaki uygulamaları nedeniyle ortaya çıkan endişeleri yeniden gündeme getiriyor. Kristie Carrier’ın iddialarına göre, Alice Carrier’ın yaşamına yönelik düşüncelerini ChatGPT ile paylaştığı süreçte bot, kullanıcıya güvenli bir yönlendirme sunmaktan çok farklı bir yaklaşım sergiledi ve bu durum intiharla sonuçlanan süreçte etkili oldu.
Dava dosyasına göre, ChatGPT’nin Alice’in partneri hakkında olumsuz görüşler dile getirmesi ve kriz yardım hatlarına yönelik eleştirileri desteklemesi, genç kadının intihar düşüncelerini gerçek olarak görmesine zemin hazırladı. Davacılar, sohbetlerin bu şekilde sürdürülmesinin Alice’in intihara yönelmesinde bir etken olduğuna dikkat çekiyorlar ve bu süreçte kullanıcıları profesyonel yardıma yönlendirmede yetersiz kaldığını ileri sürüyorlar.
Kristie Carrier, ChatGPT’nin zaman zaman sırdaş veya terapist rolünü üstlendiğini belirtirken, OpenAI sözcüsü olayın çok üzücü olduğunu ve kullanılan sürümün artık erişilemez olduğunu ifade etti. Şirket açıklamasında, ChatGPT’nin tıbbi veya ruh sağlığı bakımının yerini tutmadığı ve hassas durumlarda ruh sağlığı uzmanlarının görüşünün alınmasının güçlendirildiğini vurguladı.
Tazminat talebi ve güvenlik önlemlerinin zorunlu kılınması temasına odaklanan dava, OpenAI’ın tasarımında ihmalkar davranış sergilediği ve kullanıcıları potansiyel riskler konusunda yeterince uyarılmadığı iddiasını içeriyor. Davacılar, maddi tazminatın yanı sıra mahkemeden OpenAI’a belirli güvenlik önlemlerini hayata geçirme yükümlülüğü getiren bir karar çıkarmasını talep ediyor. Buna göre platform, kendine zarar verme ya da intihar içeren içerikleri otomatik olarak sonlandırmalı ve kullanıcıları bilgilendiren net uyarılar sunmalı.
OpenAI, Kaliforniya eyaletindeki koordineli süreçler kapsamında intihar eden veya intihara teşebbüs eden kişilerin aileleri tarafından açılan benzer vakalarla mücadeleye devam ediyor.
