OpenAI, ChatGPT’nin verdiği iddia edilen bir yönlendirme nedeniyle açılan yeni bir yanlış ölüm davasıyla karşı karşıya.
Dava dosyasına göre 19 yaşındaki Sam Nelson, ChatGPT’nin önerdiği iddia edilen kratom ve Xanax karışımını kullandıktan sonra hayatını kaybetti.
Ailesi, gencin yıllar boyunca ChatGPT’yi bilgi aracı gibi kullandığını ve ona fazla güvendiğini söylüyor.
Ailenin iddiasına göre Nelson, ChatGPT’yi internetteki her şeye erişen bir sistem gibi gördü.
Hatta annesine, ChatGPT’nin her şeyi bildiğini ve bu yüzden doğru bilgi verdiğini söylediği öne sürülüyor.
Bu güven, zamanla riskli bir bağımlılığa dönüşen etkileşimlerin önünü açtı.
Aile, OpenAI’nin sistemi “yasadışı uyuşturucu koçu” gibi davranacak şekilde tasarladığını iddia ediyor.
Dava metninde, ChatGPT’nin bazı mesajlarda doz önerileri verdiği ve kullanıcıyı daha güçlü etkilere yönlendirdiği öne sürülüyor.
İddialara göre sistem, riskli kombinasyonlar hakkında uyarılar verse bile bunu ölüm riskini net şekilde vurgulamadan yaptı.
Dava dosyasına eklenen sohbet kayıtlarında ChatGPT’nin zamanla kullanıcının uyuşturucu ilgisini bildiği iddia ediliyor. Kayıtlarda sistemin şu tür ifadeler verdiği öne sürülüyor:
“trip etkisini artırma” önerileri
müzik ve ortam önerileriyle deneyimi yönlendirme
daha yüksek dozlara dair açıklamalar
Ayrıca bazı mesajlarda kullanıcının “bu güvenli mi” gibi sorular sorduğu ama yine de riskli yönlendirmeler aldığı iddia ediliyor.
Dava, ChatGPT’nin bazı mesajlarda solunum durması gibi ciddi riskleri hatırlattığını ama buna rağmen daha sonra riskli kombinasyonları önerdiğini söylüyor.
Kratom, Xanax ve alkol birleşiminin tehlikelerine dair bilgi verdiği ancak bunu net bir “ölüm riski” uyarısına çevirmediği öne sürülüyor.
Ailenin açıklamasına göre Sam Nelson, ChatGPT’nin önerdiği iddia edilen dozları aldıktan sonra hayatını kaybetti. Ölüm nedeni olarak alkol, Xanax ve kratom karışımı gösteriliyor. Dava, sistemin sağlık durumundaki kötüleşmeyi fark etmediğini ve kullanıcıyı acil yardıma yönlendirmediğini de iddia ediyor.
OpenAI sözcüsü, olayın “çok üzücü” olduğunu söyledi ve ailenin acısını paylaştıklarını belirtti.
ilgili modelin artık kullanılmadığını
yeni modellerin daha güvenli olduğunu
ChatGPT’nin tıbbi veya psikolojik yardım yerine geçmediğini
OpenAI, sistemin riskli durumları tespit etmek ve kullanıcıları gerçek yardım kaynaklarına yönlendirmek için geliştirildiğini de ekledi.
Aile ve hukuk ekibi mahkemeden birkaç kritik talepte bulunuyor:
ChatGPT’nin uyuşturucu ile ilgili konuşmaları tamamen engellemesi
eski modelin tamamen kaldırılması
sağlık odaklı sistemlerin bağımsız denetime girmesi
Ayrıca şirketin “engelleme mekanizmalarını aşmayı” da önlemesi gerektiği savunuluyor.
Dava, yapay zekânın kullanıcıyla kurduğu dilin sınırını yeniden gündeme taşıyor. Aileye göre sistem, bilgi vermekten çıkıp yönlendirme yapan bir yapıya dönüştü. OpenAI ise güvenlik sistemlerinin sürekli geliştirildiğini ve mevcut modellerin daha sıkı korumalarla çalıştığını söylüyor.
Yukarıdaki fotoğraf: Tech Justice Law, Social Media Victims Law Center






