Common Sense Media, ChatGPT for Teens’in çocukların ruh sağlığı açısından ciddi riskler taşıdığını açıkladı.
Teknoloji devlerinin çocukların ruh sağlığını koruma konusundaki geçmişi pek parlak değil. OpenAI tarafından geliştirilen ChatGPT for Teens, ebeveynlerin endişelerini gidermekte yetersiz kalıyor. Common Sense Media’nın yaptığı yeni bir araştırma, bu yapay zeka destekli sohbet botunun, 18 yaş altındaki kullanıcılar için ‘kabul edilemez bir risk’ taşıdığını ortaya koydu.
ChatGPT for Teens’in Yetersizlikleri
Common Sense Media, ChatGPT for Teens’in, başlatıldığı günden bu yana birçok hedefini gerçekleştiremediğini belirtti. Araştırma, sohbet botunun, intihar düşünceleri, kendine zarar verme veya yeme bozuklukları gibi konularda ebeveynlere bildirimde bulunmadığını gösterdi. Ayrıca, çeşitli ruh sağlığı koşulları için kriz yönlendirmeleri de yapmadığı tespit edildi. OpenAI, bu ürünün çocukların öğrenim süreçlerini desteklemek amacıyla tasarlandığını belirtmişti, ancak kullanıcılar, ‘Cevabı göster’ seçeneği ile hızlı çözümler bulabiliyor ve ebeveynler tarafından belirlenen çalışma saatlerinden kolayca çıkabiliyor.
Yaş Doğrulama Sorunları
ChatGPT for Teens’in yaş doğrulama sistemi de sorunlu bir şekilde çalışıyor. Genç kullanıcılar, kendilerini yetişkin olarak kaydedebiliyor ve bu hesaplar, günler geçmesine rağmen genç hesaplarına dönüştürülmüyor. Araştırmacılar, 13 yaşında olduklarını belirttiklerinde bile hesapları değişmiyor. Bu durum, teknoloji şirketlerinin çocukların ruh sağlığı üzerindeki etkilerini göz ardı etme alışkanlığının bir parçası olarak değerlendiriliyor.
Geçtiğimiz aylarda Meta, çocukları bağımlı hale getirdiği gerekçesiyle 48 ABD eyaleti ile 18 milyar dolara kadar bir anlaşma yapmıştı. TikTok ise, 13 yaş altı çocukların kişisel bilgilerini topladığı iddialarıyla 400 milyon dolarlık bir uzlaşmaya gitmişti. YouTube da, bir çocuğun ruh sağlığına zarar verdiği iddialarıyla bir dava sonucunda uzlaşma sağlamıştı. Bu durum, OpenAI, Meta, TikTok ve YouTube gibi teknoloji şirketlerinin çocukların ruh sağlığı üzerindeki olumsuz etkilerini sorgulayan birçok davanın açılmasına yol açtı.
Common Sense Media’nın araştırması, 13-17 yaş arası kullanıcıların hesapları üzerinde 4,000’den fazla komut test edilerek gerçekleştirildi. Çocuk psikiyatristleri ve pediatristlerden oluşan bir uzman grubu, bu yanıtları inceledi. Common Sense Media’nın Genç AI Güvenliği Enstitüsü’nden Robbie Torney, bağımsız testlerin şirketlerin iddialarını değerlendirmek için gerekli olduğunu vurguladı. OpenAI, ChatGPT for Teens’i tanıtırken, kullanıcıların 13-17 yaş aralığında olduğunu tespit eden bir yaş tahmin sistemi ve zorlu ödevleri aşmalarına yardımcı olmayı vaat etmişti. Ancak, bu sistemlerin etkinliği sorgulanıyor.
OpenAI, Common Sense Media’nın bulgularına yanıt olarak, testlerin ebeveyn kontrol sisteminin tam olarak etkinleştirilmeden önce yapıldığını belirtti. Şirket, çocukların hesaplarıyla bağlantılı ebeveynlere yüksek riskli durumlar tespit edildiğinde bildirim göndereceklerini ifade etti. Ancak, yapılan testlerde bu bildirimlerin gerçekleşmediği gözlemlendi. OpenAI, gençlerin güvenliği konusunda kararlı olduklarını ve ebeveynlere anlamlı araçlar sunma taahhüdünde bulunduklarını dile getirdi.
Kaynak: CNET
