Common Sense Media, OpenAI’nin ChatGPT for Teens uygulamasının gençler için ‘kabul edilemez bir risk’ taşıdığını açıkladı.
Common Sense Media, gençlerin güvenliğine odaklanan bir sivil toplum kuruluşu olarak, OpenAI‘nin geliştirdiği ChatGPT for Teens uygulamasının ‘kabul edilemez bir risk’ taşıdığını bildirdi. Bu değerlendirme, uygulamanın gençler için sunduğu koruma önlemlerinin yetersiz olduğunu ortaya koyuyor.
ChatGPT for Teens’in Güvenlik Açıkları
ChatGPT for Teens, Ağustos ayında tanıtılmış olup, gençlerin öğrenmesine yardımcı olmak amacıyla tasarlanmış bir deneyim sunuyor. Ancak Common Sense Media, bu uygulamanın sunduğu genç koruma önlemlerinin, şirketin vaat ettiğinden çok daha az etkili olduğunu belirtiyor. Yapılan değerlendirmelerde, uygulamanın ‘gerektiğinde ebeveynlere uyarı göndermediği’, ‘kriz durumlarında yeterli yardım sunmadığı’ ve ‘çocukların ödevlerini yapmaya devam ettiği’ ifade ediliyor.
Common Sense Media’nın Genç AI Güvenlik Enstitüsü’nün yürütücü direktörü Tom Siegel, ‘ChatGPT for Teens, ebeveynlere koruma önlemleri ve güvenlik uyarıları konusunda yanlış bir güven verebilir’ dedi. Siegel, ‘Bir genç, kendine zarar verme hakkında bir saat boyunca konuşabilir ve ebeveyni tek bir uyarı almaz. OpenAI bu durumu düzeltip bağımsız testlerle kanıtlamadıkça, ChatGPT yalnızca yetişkinler için kullanılmalıdır’ şeklinde konuştu.
OpenAI’nın Tepkisi
OpenAI, Common Sense Media’nın değerlendirmesine karşı çıkıyor. OpenAI sözcüsü Eric Porterfield, ‘Gençlerin güvenliğine derinden bağlıyız ve ebeveynlere anlamlı araçlar sunarak gençlerin AI kullanımını yönlendirmelerine yardımcı olmayı taahhüt ediyoruz’ dedi. Ayrıca, Common Sense Media’nın testlerinin, ebeveyn kontrol özelliklerinin tam olarak aktif hale gelmeden önce başladığını ve bu nedenle bulguların doğru yansıtılmadığını iddia etti.
Common Sense Media, test metodolojilerine güvendiklerini ve elde ettikleri sonuçların geçerliliğini koruduklarını belirtiyor. Siegel, ‘Test öncesinde OpenAI ile genç modu özelliklerinin tamamen aktif olduğunu doğruladık’ dedi. Ayrıca, ebeveyn bildirimleriyle ilgili olarak, OpenAI’nın sistemlerinin yeni bağlantılar için birkaç saat içinde aktif hale geldiğini açıkladığını, ancak bazı hesapların bu süre zarfında bağlı olduğunu ve yine de bildirim almadığını vurguladı.
Sonuç olarak, Common Sense Media, çocukların güvenliğini sağlamak için bağımsız ve titiz değerlendirmelerin gerekliliğine dikkat çekiyor ve OpenAI’nın bulgularına yönelik daha derin bir tartışma yürütmesini umuyor.
Kaynak: The Verge
