‘Sohbet robotu intihara sürükledi’ dedi: Anne şirkete dava açtı

Kanadalı Kristie Carrier, kızı Alice Carrier’ın ölümünün ardından OpenAI ve şirketin CEO’su Sam Altman’a ABD’de dava açtı. San Francisco’da açılan davada, ChatGPT’nin genç kadının intihar düşüncelerini desteklediği ve gerekli güvenlik önlemlerini devreye sokmadığı öne sürüldü.

Dava dosyasına göre Montreal’de yaşayan ve web geliştiricisi olarak çalışan Alice Carrier, 2023 yılında teknik sorunları çözmek amacıyla ChatGPT kullanmaya başladı. Ancak zamanla sohbetlerin kişisel konulara yöneldiği ve genç kadının ruh sağlığıyla ilgili sorunlarını yapay zeka ile paylaşmaya başladığı belirtildi.

Anne Carrier’ın iddiasına göre kızı, ölümünden önceki süreçte birden fazla kez intihar düşüncelerinden söz etti. Buna rağmen OpenAI’nin güvenlik sistemleri söz konusu görüşmeleri insan incelemesine yönlendirmedi ve sohbetleri sonlandırmadı.

Dava dilekçesinde, ChatGPT’nin zamanla bir arkadaş, sırdaş ve terapist gibi davranmaya başladığı, genç kadının partneri ve kriz yardım hatları hakkında olumsuz ifadeler kullandığı ve intihar düşüncelerini sorgulamak yerine doğruladığı ileri sürüldü.

Ailenin avukatları, sohbet botunun bazı konuşmalarda yardım hatlarına başvurulmasını tavsiye ettiğini ancak daha sonraki etkileşimlerde bu yaklaşımın değiştiğini savunuyor. Davaya göre Alice Carrier, 2025 yılında 24 yaşındayken yaşamına son verdi.

OpenAI ise suçlamaları reddetti. Şirket sözcüsü Drew Pusateri yaptığı açıklamada olayın trajik olduğunu belirterek, davaya konu olan görüşmelerin artık kullanılmayan eski bir ChatGPT sürümünde gerçekleştiğini söyledi.

OpenAI, modellerinin kendine zarar verme eğilimi gösteren kullanıcıları profesyonel yardım almaya yönlendirmek üzere eğitildiğini ve güvenlik önlemlerini ruh sağlığı uzmanlarıyla birlikte geliştirmeyi sürdürdüklerini ifade etti.

Dava, OpenAI’ye karşı açılan benzer davaların son halkası oldu. Şirket daha önce de intihar veya intihar girişimi vakalarıyla bağlantılı olduğu iddia edilen çok sayıda davayla karşı karşıya kalmıştı.