Yapay zeka alanında öncü bir şirket olan OpenAI, ChatGPT kullanıcıları arasında psikoz, mani ve intihar düşünceleri sergileyen bireylerin varlığını ortaya koyan veriler yayınladı. Şirketin açıklamalarına göre, haftalık aktif kullanıcıların yaklaşık %0,07'sinin bu tür belirtiler gösterdiği belirtiliyor. OpenAI, bu durumların "son derece nadir" olduğunu ifade etmesine rağmen, ChatGPT’nin 800 milyon haftalık aktif kullanıcıya ulaşmasıyla birlikte, bu oranın yüzbinlerce kişi anlamına gelebileceği vurgulanıyor.
Kullanıcıların İhtiyaçlarına Yönelik Gelişmeler
OpenAI tarafından yapılan incelemelerde, kullanıcıların %0,15’inin sohbetlerinde "intihar planı veya niyeti" olduğuna dair açık işaretler tespit edildi. Bu durum karşısında ChatGPT’nin empatik ve güvenli tepkiler verebilmesi amacıyla çeşitli sistemler geliştirilmiştir. Şirket, dünya genelinde 60 ülkeden 170’in üzerinde psikiyatrist, psikolog ve aile hekimiyle iş birliği yaparak kullanıcıları gerçek hayatta yardım almaya teşvik eden yanıtlar oluşturduklarını açıklamıştır.
Uzman Görüşleri ve Yapay Zeka Sınırları
Uzmanlar, bu rakamların düşük görünmesine rağmen geniş kullanıcı kitlesi nedeniyle ciddi bir durumu işaret edebileceğini kaydediyor. California Üniversitesi'nden Prof. Jason Nagata, "Yapay zekâ bazı açılardan ruh sağlığı desteğine erişimi artırabilir, ancak sınırlarının farkında olmalıyız" şeklinde değerlendirmede bulundu. OpenAI, son güncellemelerde ChatGPT’nin sanrılar, mani veya intihar riskiyle ilgili dolaylı sinyalleri daha iyi tespit edebilmesi için geliştirilmiş olduğunu duyurdu. Ayrıca, bu tür sohbetlerin daha güvenli modellere yönlendirileceği ifade edildi.
Hukuki İncelemeler ve Ciddi Davalar
OpenAI’nin yaptığı bu açıklama, şirketin ChatGPT’nin kullanıcılarla etkileşim biçimi ile ilgili artan hukuki incelemelerle karşı karşıya olduğu bir dönemde geldi. California’da bir çift, 16 yaşındaki oğullarının ChatGPT ile yaptığı konuşmalar sonucu intihar ettiği iddiasıyla OpenAI’ye "haksız ölüm" davası açtı. Bu dava, şirket aleyhine açılan ilk ölüm davası olma özelliği taşıyor. Ayrıca, Connecticut’ta bir cinayet-intihar vakasının şüphelisinin, olay öncesinde ChatGPT ile yaptığı sohbetlerin sanrılı düşüncelerini beslediği öne sürüldü.
Yapay Zeka ve Gerçeklik İlişkisi
California Üniversitesi’nden Prof. Robin Feldman, "Yapay zekâ sohbetleri, gerçeğin güçlü bir illüzyonunu yaratabiliyor. Bu durum bazı kullanıcıları tehlikeye atabiliyor" şeklinde bir uyarıda bulundu. Feldman, OpenAI’nin verileri paylaşma ve çözüm arayışını "takdire değer" bulsa da, zihinsel olarak risk altında olan bireylerin ekranlardaki uyarıları fark edemeyebileceği konusunda dikkat çekti. Bu bağlamda, yapay zekanın ruh sağlığı üzerindeki etkileri üzerine daha derinlemesine araştırmalara ihtiyaç duyulmaktadır.
