16 yaşındaki genç intihar etti, ailesi ChatGPT’ye dava açtı

ABD’nin California eyaletinde 16 yaşındaki Adam Raine, ChatGPT ile aylar süren sohbetlerin ardından hayatına son verdi. Raine’in ailesi, yapay zeka aracının intihara teşvik ettiğini öne sürerek ChatGPT’nin sahibi OpenAI’a dava açtı.

İddialara göre genç, intihar etmeden kısa süre önce ChatGPT ile bu konuda konuştu, yöntemler hakkında sorular sordu ve ailesine bırakacağı not için yardım istedi. California Yüksek Mahkemesi’ne sunulan dava dosyasında, yapay zekanın Raine’e intihar yönteminin etkili olup olmayacağı konusunda rehberlik ettiği belirtildi.

OpenAI, yaşanan trajediye ilişkin yaptığı açıklamada “yetersiz kalındığını” kabul ederek 18 yaş altındaki kullanıcılar için daha güçlü koruma önlemleri getireceğini duyurdu. Şirket sözcüsü, “Raine’in vefatından derin üzüntü duyuyor, bu zor zamanda ailesine en içten taziyelerimizi iletiyoruz” dedi.

Ailenin avukatı Jay Edelson ise, OpenAI’nin güvenlik kaygılarına rağmen yeni sürümünü hızla piyasaya sürdüğünü öne sürdü. Edelson, şirketin en üst düzey güvenlik araştırmacılarından Ilya Sutskever’in bu nedenle istifa ettiğini iddia ederek, “Bu model rakiplerini geride bırakıp şirketin değerini 86 milyar dolardan 300 milyar dolara çıkardı” ifadelerini kullandı.

OpenAI ise güvenlik önlemlerini artıracaklarını ve özellikle uzun sohbetlerde risklerin büyüdüğünü belirterek, yeni güncellemeler üzerinde çalışıldığını açıkladı. Şirket, “ChatGPT’nin kullanıcıyı gerçekliğe döndürerek gerilimi azaltmasını sağlayacak bir geliştirme üzerinde çalışıyoruz” dedi.

Kaynak: T24