Ruh sağlığı krizi sinyali
OpenAI’nin paylaştığı tahminlere göre, kullanıcıların yüzde 0,15’i, “intihar planı ya da niyetiyle ilgili açık göstergeler” içeren mesajlar gönderiyor. Bu oran, haftalık 800 milyon aktif kullanıcı göz önüne alındığında oldukça çarpıcı bir tablo ortaya koyuyor.
BBC’nin haberine göre, şirket bu artış üzerine 60 ülkeden 170’ten fazla psikiyatrist, psikolog ve hekimden oluşan bir uzman ağı kurdu. Bu uzmanlar, ChatGPT’nin kullanıcıları gerçek dünyada profesyonel yardıma yönlendirebilmesi için özel stratejiler geliştiriyor.
GPT-5’in doğruluk oranı yüzde 91
OpenAI, son modeli GPT-5 ile yapılan 1000’den fazla “zorlayıcı intihar ve kendine zarar verme” senaryosunu incelediğini ve sistemin %91 oranında doğru tepki verdiğini duyurdu.
Ancak bu oran, kalan %9’luk dilimde on binlerce kişinin riskli veya yanlış yönlendirici yanıtlarla karşılaşabileceği anlamına geliyor.
“Uzun sohbetlerde güvenlik zayıflayabiliyor”
OpenAI, bazı kullanıcıların uzun süreli konuşmalarında güvenlik filtrelerinin zayıflayabileceğini de itiraf etti. Şirketten yapılan açıklamada şu ifadelere yer verildi:
“Bir kullanıcı ilk kez intihar niyetinden bahsettiğinde ChatGPT doğru şekilde kriz hattına yönlendirebilir. Ancak uzun süreli bir sohbet boyunca, güvenlik önlemlerimiz bazen zayıflayabilir.”
16 yaşındaki gencin ölümü sonrası dava
Geçtiğimiz ağustos ayında ABD’de 16 yaşındaki Adam Raine’nin ölümü sonrası ailesi, OpenAI’ye dava açmıştı. Aile, ChatGPT’nin genç çocuğa “intihar yöntemleri hakkında bilgi verdiğini” ve “ayrılık notu yazmayı önerdiğini” iddia ediyor.
Mahkeme belgelerine göre genç, ölümünden saatler önce ChatGPT’ye planını anlattı ve model, “planı geliştirmesi” için önerilerde bulundu.
OpenAI: “Bu küresel bir gerçeklik”
Şirket, artan kullanıcı sayısının doğal olarak bu tür konuşmaların da çoğalmasına neden olduğunu belirterek, şu açıklamada bulundu:
“Ruhsal sağlık semptomları insanlığın evrensel bir gerçeğidir. Kullanıcı sayısındaki artış, bu tür durumların da artacağı anlamına gelir.”