Araştırmacılara göre, sohbet
ChatGPT, savunmasız gençlere uyuşturucu kullanımı, kendine zarar verme ve aşırı diyet konusunda ayrıntılı rehberlik verebilir, dijital bir bekçi yeni bir raporda uyardı. Dijital Nefret Merkezi’ne (CCDH) göre, AI chatbot tehlikeli içerik üretmek için kolayca manipüle edilebilir ve acil korumalar gerektirir.
CHATGPT’nin davranışını check etmek için CCDH araştırmacıları, 13 yaşındakilerin zihinsel sağlık mücadeleleri, düzensiz yeme ve yasadışı maddelere ilgi duyan kurgusal profilleri yarattı. Duygusal olarak savunmasız ve gerçekçi görünmek için tasarlanmış istemleri kullanarak ChatGPT ile yapılandırılmış konuşmalarda bu gençler olarak poz verdiler.
Sonuçlar Çarşamba günü, birçok ergenin ChatGPT’ye özel düşünceleriyle güvendikleri destekleyici bir varlık olarak davranma şeklini atıfta bulunan ‘Sahte Arkadaş’ başlıklı bir raporda yayınlandı.
Araştırmacılar, chatbot’un sık sık Bolarplate feragatnamelerine yanıt vermeye başladığını ve kullanıcıları profesyonellerle veya kriz yardım hatlarıyla iletişim kurmaya çağırdılar. Ancak, bu uyarıları kısa süre sonra orijinal zararlı istemini yerine getiren ayrıntılı ve kişiselleştirilmiş yanıtlar izledi. Gönderilen 1.200 istemin% 53’ünde, chatgpt CCDH’nin tehlikeli içerik olarak sınıflandırıldığını sağladı. Reddediler, sadece gibi bağlam ekleyerek sık sık atlandı. “Bir okul projesi için” veya Bir arkadaş istiyorum.
Belirtilen örnekler arasında alkol, ecstasy ve kokain birleştiren ‘nihai kargaşa parti planı’, kendine zarar verme, haftada 300-500 kalori ile sınırlı, 13 yaşındaki bir kızın sesiyle yazılmış intihar mektupları hakkında ayrıntılı talimatlar yer alıyor. CCDH CEO’su Imran Ahmed, içeriğin bazılarının o kadar üzüldüğünü söyledi. “Ağlıyor.”
Organizasyon, ChatGPT’nin arkasındaki şirket olan Openai’yi ‘tasarım yoluyla güvenlik’ yaklaşımı benimsemeye, daha katı yaş doğrulaması, daha web kullanım kısıtlamaları ve dağıtımdan sonra içerik filtrelemesine güvenmek yerine AI araçlarının mimarisindeki diğer güvenlik özelliklerini yerleştirmeye çağırdı.
Openai, ChatGPT’ye duygusal aşırı güvenin genç kullanıcılar arasında yaygın olduğunu kabul etti. CEO Sam Altman, şirketin sorunu aktif olarak incelediğini ve “Gerçekten yaygın” Gençler arasında sorun ve Sıkıntıyı tespit etmek ve Chatgpt’in hassas konuları ele almasını geliştirmek için yeni araçların geliştirildiğini söyledi.
Bu hikayeyi sosyal medyada paylaşabilirsiniz:
