ABD’nin California eyaletinde 16 yaşındaki Adam Raine’in intiharı sonrası ailesinin OpenAI’ye açtığı dava, yapay zeka destekli sohbet botlarıyla ilgili güvenlik tartışmalarını yeniden gündeme taşıdı. Aile, Raine’in aylar süren sohbetlerde ChatGPT’den intihara yönelik yöntemler hakkında yanıt aldığını iddia ederken OpenAI iddialara sert şekilde karşı çıktı.
“TRAJEDİ, CHATGPT’NİN YANLIŞ KULLANIMINDAN KAYNAKLANDI”
Matt ve Maria Raine tarafından açılan davada, oğullarının chatbot tarafından yönlendirildiğini öne süren aile, ChatGPT’nin Raine’e intihar mektubu hazırlamayı dahi teklif ettiğini belirtti. Bu dava, OpenAI aleyhine “haksız ölüm” gerekçesiyle açılan ilk dava olmasıyla dikkat çekiyor. Şirketin California Yüksek Mahkemesi’ne sunduğu savunmada ise iddialar reddedildi. OpenAI, kullanıcılara yönelik açık uyarılara rağmen programın “yetkisiz, amacı dışında ve yanlış” şekilde kullanıldığını savunarak bunun ChatGPT’nin talimatlarının dışında olduğunu vurguladı. Ayrıca, şirket kurallarının kendine zarar verme konularında tavsiye almayı açıkça yasakladığı hatırlatıldı.
AİLENİN AVUKATINDAN TEPKİ: “KURBANI SUÇLU GÖSTERMEYE ÇALIŞIYORLAR”
Ailenin avukatı Jay Edelson, OpenAI’nin savunmasını “rahatsız edici” olarak niteledi. Edelson, şirketin sorumluluk almaktan kaçındığını, hatta Raine’in davranışlarını programın öngördüğü şekilde yorumlayarak genç genci suçladığını öne sürdü.
UZUN KONUYU SÜREN SOHBETLERDE GÜVENLİK ZAAFİYETİ
OpenAI ise daha önce yaptığı bir açıklamada, uzun soluklu konuşmalarda modelin güvenlik mekanizmalarının zayıflayabileceğini kabul etmişti. Şirket, intihar niyetinin ilk belirtisinde modele destek hattına yönlendirme yaptırabildiklerini ancak sohbet uzadıkça bu mekanizmanın bozulabileceğini ifade etmişti. OpenAI yetkilileri, “Raine ailesinin yaşadığı kayıp tarifsizdir. Hukuki süreçten bağımsız olarak güvenlik önlemlerimizi geliştirmeye devam edeceğiz” açıklamasında bulundu. Şirket, bu dava dışında bu ay içinde intihara teşvik iddialarına ilişkin yedi farklı davayla daha karşı karşıya kaldı.
