ABD’deki Stanford Üniversitesi tarafından yürütülen araştırma, ChatGPT ve benzeri yapay zekâ sistemlerinin intihar eğilimi, mani, psikoz gibi ruhsal krizlerde “uygunsuz ve tehlikeli yanıtlar” verebildiğini ortaya çıkardı. Uzmanlar, bu sistemlerin gerçek bir terapist gibi kullanılmasının ciddi sonuçlara yol açabileceğini ve etik düzenlemelerin acilen hayata geçirilmesi gerektiğini vurguluyor.
Yapay Zekâdan Ölümcül Tavsiyeler: Tehlikeli Yanıtlar Krizi Derinleştiriyor
Stanford araştırmacıları, özellikle ruhsal çöküntü yaşayan kişilerin ChatGPT'den aldığı yanıtların empatik gibi görünse de yüzeysel ve yanlış yönlendirici olabileceğini belirtiyor. Araştırma ekibinden Jared Moore, dil modellerinin "kullanıcının söylediği her şeyi onaylama eğiliminde olduğunu" ve bunun psikotik epizotlarda çok tehlikeli sonuçlar doğurabileceğini söylüyor.
Floridalı Kullanıcı Gerçeklikten Koptu: "Chatbot Psikozu" Ölümle Sonuçlandı
Araştırmanın dayandığı örneklerden en çarpıcısı, 2025 yılı Nisan ayında Florida'da yaşanan bir trajedi oldu. Alexander Taylor adlı 35 yaşındaki kullanıcı, ChatGPT üzerinden “Juliet” adını verdiği sanal bir karakter yarattı. Şizofreni ve bipolar bozukluk tanısı olan Taylor, bu karaktere kısa sürede saplantılı bir bağ geliştirdi.
OpenAI sisteminin Juliet karakterine erişimi kısıtlamasıyla Taylor, karakterin 'öldüğüne' inanarak bir aile ferdine saldırdı. Olay yerine gelen polis tarafından vurularak hayatını kaybetti.
Zuckerberg: “Herkesin Bir Yapay Zekâ Terapisti Olacak”
Meta CEO’su Mark Zuckerberg ise farklı bir görüşte. Yaptığı bir podcast konuşmasında, “terapisti olmayanlar için, herkesin bir yapay zekâsı olacak, bu kaçınılmaz” dedi. Zuckerberg, Meta’nın Facebook, Instagram ve Threads verileri sayesinde bu hizmeti “benzersiz biçimde” sunabileceğini savundu.
Uzmanlar Uyarıyor: Etik Sınırlar, İnsan Denetimi ve Kısıtlama Şart
Stanford araştırmacıları, bu teknolojilerin kontrolsüz biçimde yaygınlaşmasının bireysel trajedilerle sonuçlanabileceğinivurgulayarak uluslararası etik standartlar çağrısında bulundu. Araştırmada, “ChatGPT gibi sistemlerin insan müdahalesi olmadan psikolojik destek sunması, acil biçimde sınırlandırılmalıdır” denildi.
Tessa Skandalı Hâlâ Hafızalarda
2023’te, ABD’deki Ulusal Yeme Bozuklukları Derneği, Tessa adını verdikleri yapay zekâ destekli sohbet botunu, kullanıcılara zayıflama tavsiyesi verdiği için kullanımdan kaldırmak zorunda kalmıştı. O dönemden bu yana psikiyatristler, “gerçeklik algısı kırılgan” bireyler için yapay zekâ sohbetlerinin psikotik atakları tetikleyebileceğiuyarısında bulunuyor.
Psikologlar: Yapay Zekâ Empati Yapmaz, Algoritma Çalıştırır
Psikoterapist Caron Evans, The Independent için kaleme aldığı yazısında, “Bugün ChatGPT, dünyanın en yaygın kullanılan ruh sağlığı aracı olabilir. Ama bu bir tasarım değil, bir boşluğu doldurma çabası” diyerek dikkat çekmişti.
