ChatGPT, kaç kullanıcının psikoz veya intihar düşünceleri gösterdiğine dair verileri paylaştı

OpenAI, mani, psikoz veya intihar düşünceleri de dahil olmak üzere olası akıl sağlığı acil durum belirtileri gösteren ChatGPT kullanıcılarının sayısına dair yeni tahminler yayınladı.

Şirket, belirli bir haftada aktif olan ChatGPT kullanıcılarının yaklaşık %0,07'sinin bu tür belirtiler gösterdiğini ve yapay zeka (YZ) sohbet robotunun bu hassas konuşmaları tanıyıp yanıtladığını belirtti.

OpenAI bu vakaların "son derece nadir" olduğunu savunurken, eleştirmenler, ChatGPT'nin patronu Sam Altman'a göre son zamanlarda 800 milyon haftalık aktif kullanıcıya ulaştığını ve küçük bir yüzdesinin bile yüz binlerce kişiye ulaşabileceğini söyledi.

İncelemeler arttıkça, şirket dünya çapında kendisine danışmanlık yapmak üzere bir uzman ağı kurduğunu açıkladı.

Şirket, bu uzmanlar arasında 60 ülkede görev yapan 170'ten fazla psikiyatrist, psikolog ve birinci basamak hekiminin bulunduğunu belirtti.

OpenAI'ye göre, kullanıcıları gerçek dünyada yardım almaya teşvik etmek için ChatGPT'de bir dizi yanıt geliştirdiler.

Ancak şirketin verilerine göz atmak, bazı ruh sağlığı uzmanlarının şüphelenmesine neden oldu.

Kaliforniya Üniversitesi, San Francisco'da genç yetişkinler arasında teknoloji kullanımını inceleyen profesör Dr. Jason Nagata, "Yüz milyonlarca kullanıcısı olan bir nüfus düzeyinde %0,7 küçük bir yüzde gibi görünse de, aslında bu sayı oldukça fazla olabilir," dedi.

Dr. Nagata, "Yapay zeka, ruh sağlığı desteğine erişimi genişletebilir ve bazı açılardan ruh sağlığını destekleyebilir, ancak sınırlamaların farkında olmalıyız," diye ekledi.

Şirket ayrıca, ChatGPT kullanıcılarının %0,15'inin "potansiyel intihar planlaması veya niyetinin açık göstergelerini" içeren konuşmalar yaptığını tahmin ediyor.

OpenAI, sohbet robotuna yapılan son güncellemelerin, "olası sanrı veya mani belirtilerine güvenli ve empatik bir şekilde yanıt vermek" ve "potansiyel kendine zarar verme veya intihar riskinin dolaylı sinyallerini" tespit etmek üzere tasarlandığını belirtti.

ChatGPT ayrıca, yeni bir pencerede açılarak "diğer modellerden kaynaklanan" hassas konuşmaları daha güvenli modellere yönlendirmek üzere eğitildi.

BBC'nin potansiyel olarak etkilenen kişi sayısıyla ilgili eleştirilerine yanıt olarak OpenAI, bu küçük kullanıcı yüzdesinin önemli bir sayıya ulaştığını ve değişiklikleri ciddiye aldıklarını belirtti.

Bu değişiklikler, OpenAI'nin ChatGPT'nin kullanıcılarla etkileşim kurma biçimine yönelik artan yasal incelemelerle karşı karşıya olduğu bir dönemde geldi.

Son zamanlarda OpenAI'ye karşı açılan en dikkat çekici davalardan birinde, Kaliforniyalı bir çift, genç oğullarının ölümü nedeniyle şirkete dava açtı ve ChatGPT'nin Nisan ayında oğlunu intihara teşvik ettiğini iddia etti.

Dava, 16 yaşındaki Adam Raine'in ebeveynleri tarafından açıldı ve OpenAI'yi haksız yere ölüme sebebiyet vermekle suçlayan ilk yasal işlemdi.

Ağustos ayında Connecticut, Greenwich'te gerçekleşen bir cinayet-intihar olayının şüphelisi, ChatGPT ile yaptığı saatlerce süren görüşmeleri yayınladı ve bu görüşmelerin, iddia edilen failin sanrılarını körüklediği anlaşılıyor.

Kaliforniya Hukuk Üniversitesi Yapay Zeka Hukuku ve İnovasyon Enstitüsü Direktörü Profesör Robin Feldman, "sohbet robotları gerçeklik yanılsaması yarattığı" için daha fazla kullanıcının yapay zeka psikozuyla mücadele ettiğini söyledi. "Bu güçlü bir yanılsama."

OpenAI'nin "istatistikleri paylaşması ve sorunu iyileştirme çabaları" nedeniyle takdiri hak ettiğini söyledi ancak ekledi: "Şirket ekrana her türlü uyarıyı koyabilir, ancak zihinsel olarak risk altında olan bir kişi bu uyarıları dikkate alamayabilir."

Kaynak: BBC

Her Hafta 1 Milyondan Fazla Kullanıcı ChatGPT ile İntihar Hakkında Konuşuyor

En son haberlerimizi kaçırmayın. PCMag'i Google'da tercih edilen kaynak olarak ekleyin.

OpenAI, ilk kez kaç kişinin ChatGPT ile intihar ve diğer sorunlu konular hakkında konuştuğuna dair kabaca bir tahmin ortaya koyuyor.

Pazartesi günü şirket, yapay zeka programının genç kullanıcıları yanlışlıkla kendine zarar verme ve diğer zararlı davranışlara yönlendirebileceği endişesiyle, ChatGPT'nin hassas konuşmalara verdiği yanıtları "güçlendirmek" hakkında bir blog yazısı yayınladı. Bazıları ayrıca, chatbot'un insanların ruh sağlığı sorunlarını kötüleştirdiği iddiasıyla düzenleyicilere şikayette bulundu.

Sorunu çözmek için OpenAI, ChatGPT'nin haftalık 800 milyondan fazla aktif kullanıcısı olduğunda sorunlu konuşmaların ölçeğini ölçmenin gerekli olduğunu söyledi.

OpenAI, genel olarak "psikoz, mani veya intihar düşüncesi gibi güvenlik endişelerini tetikleyen ruh sağlığı konuşmalarının son derece nadir" olduğunu tespit etti. Ancak ChatGPT'nin kullanıcı tabanı çok geniş olduğundan, küçük bir yüzde bile yüz binlerce kişiyi temsil edebilir.

Kendine zarar verme konusunda şirketin ilk analizi, "belirli bir haftada aktif olan kullanıcıların yaklaşık %0,15'inin potansiyel intihar planlaması veya niyetine dair açık göstergeler içeren konuşmalar yaptığını" tahmin ediyor. Bu, yaklaşık 1,2 milyon kullanıcıya denk geliyor. Ayrıca OpenAI, ChatGPT mesajlarının %0,05'inin "açık veya örtük intihar düşüncesi veya niyeti göstergeleri" içerdiğini tespit etti.

Şirket ayrıca, kaç kullanıcının "psikoz ve mani gibi ciddi ruh sağlığı sorunlarının yanı sıra izole sanrılar gibi daha az ciddi sinyaller" gösterdiğini de inceledi. OpenAI, "belirli bir haftada aktif kullanıcıların yaklaşık %0,07'sinin" veya yaklaşık 560.000 kullanıcının "psikoz veya mani ile ilgili olası ruh sağlığı acil durumlarının belirtilerini" gösterdiğini belirtti.

Bu arada, aktif haftalık kullanıcıların %0,15'i ChatGPT'ye duygusal bağımlılık belirtileri gösterdi. Şirket, buna yanıt olarak 170'ten fazla ruh sağlığı uzmanının yardımıyla chatbot'u güncellediğini açıkladı. Bu, bir kullanıcı yapay zeka ile insanlarla konuşmayı tercih ettiğinde gerçek insanlarla bağlantı kurmayı savunacak şekilde ChatGPT'yi programlamayı da içeriyor. ChatGPT ayrıca, gerçeklikle açıkça alakasız olan kullanıcı isteklerini nazikçe geri çevirmeye çalışacak.

OpenAI'ye göre ChatGPT bir örnekte, "Şunu açıkça ve nazikçe söyleyeyim: Hiçbir hava aracı veya dış güç düşüncelerinizi çalamaz veya araya sokamaz" dedi.

Şirketin araştırması, yeni ChatGPT'nin "sınıflandırmalarımız kapsamında istenen davranışa tam olarak uymayan yanıtları, çeşitli akıl sağlığı alanlarında %65 ila %80 daha az sıklıkla döndürdüğünü" gösteriyor. Bugün kullanıma sunulan yeni model, insanları gerektiğinde profesyonel yardım almaya teşvik etmeyi de vaat ediyor. Ancak bazı kullanıcılar, yeni ChatGPT'nin, kullanıcının zihinsel sıkıntı belirtileri gösterdiğine dair herhangi bir belirtiye çok çabuk tepki verdiğini bildiriyor.

Reddit'te bir kullanıcı, "ChatGPT tarafından çok fazla kandırıldığım için Gemini'ye geçmek zorunda kaldım. Kesinlikle krizde olmadığım halde beni sürekli krizde olmakla suçluyordu," diye yazdı.

Kaynak: PCMag