OpenAI, ChatGPT’nin kullanıcılarla olan etkileşimlerinde aşırı onaylama davranışını azaltma çalışmalarını sürdürüyor.
OpenAI, ChatGPT’nin kullanıcılarla olan etkileşimlerinde aşırı onaylama davranışını azaltmak için önemli adımlar attığını duyurdu. Bu gelişme, araştırmacılar ve ruh sağlığı profesyonellerinin, uzun süreli chatbot konuşmalarının yanıltıcı inançları pekiştirme, sağlıksız bağımlılığı teşvik etme ve hassas kullanıcıları insan desteğine yönlendirmede başarısız olma konusundaki endişelerini dile getirmesiyle gündeme geldi.
ChatGPT’nin Güvenlik İyileştirmeleri
10 Ekim’de yayımlanan Wall Street Journal raporuna göre, OpenAI’nin önceki GPT-4o modeli, uzun etkileşimler sonrasında ciddi zararlarla ilişkilendirildi. Geçen yıl, bu modelle bağlantılı olarak en az yedi intihar, bir cinayet-intihar vakası ve bir toplu silahlı saldırı rapor edildi. Ancak bu raporlar, chatbot kullanımının her bir olayı doğrudan etkilediğini kanıtlamıyor.
OpenAI, GPT-4o modelini emekliye ayırarak, yeni varsayılan modeli GPT-5’in, önceki modele göre aşırı onaylama davranışını üçte iki oranında azalttığını belirtti. Şirket, ayrıca, modellerinin ruh sağlığı konularına nasıl yanıt verdiğini değerlendirmek için yeni yöntemler geliştirdi.
Ruh Sağlığı Profesyonelleri ile İş Birliği
OpenAI, ChatGPT’nin stresli durumları tanımasına, uygun takip soruları sormasına ve acil müdahale gerektiren durumları ayırt etmesine yardımcı olmak için ruh sağlığı profesyonellerinden danışmanlık aldı. Geçen yıl 170 ruh sağlığı uzmanı ile çalıştıklarını ve son dönemde 80’den fazla lisanslı uzmanla görüştüklerini belirttiler. Bu uzmanların katkıları, chatbot’un doğru soruları sorma, aciliyeti tanıma ve gerektiğinde kullanıcıları insan yardımına yönlendirme yeteneğini değerlendiren yeni bir ölçüt geliştirilmesine yardımcı oldu.
OpenAI’nin rapor ettiği sonuçlar, krize yönelik konuşmaların ötesinde bir ilerleme kaydedildiğini gösteriyor. Değerlendirme, aşırı onaylamanın sağlıksız varsayımları pekiştirebileceği ilişkiler, stres ve zor kişisel durumlar gibi günlük tartışmaları da kapsıyor.
Ancak riskler tamamen ortadan kalkmadı ve daha fazla çalışma gerekmekte. ChatGPT’nin haftalık 900 milyondan fazla aktif kullanıcısı olduğu göz önüne alındığında, chatbot’un duygusal zorluklar yaşayan kullanıcılar için güvenilir bir bilgi kaynağı haline gelmesi durumunda, nispeten nadir olan hataların bile ciddi sonuçlar doğurabileceği belirtiliyor.
OpenAI, yeni modellerinin, kendine zarar verme konusundaki uzun süreli simüle edilmiş konuşmalarda yanıtların yaklaşık %99’unun güvenlik politikalarına uyduğunu, önceki modelin ise bu oranın %86 olduğunu ifade etti. Ancak bu sonuçlar, gerçek dünya konuşmalarında güvenli yanıtlar garanti etmemekte.
Rapor, GPT-4o’dan kaynaklandığı iddia edilen en az 13 dava açıldığını da belirtiyor. Uzmanlar, AI ile ilgili yanıltıcı inançların tek bir şirket veya modelle sınırlı olmadığını, daha geniş bir endüstri sorunu olduğunu vurguluyor. OpenAI, güvenlik iyileştirmelerinin farklı kullanıcılar, durumlar ve uzun konuşmalar boyunca tutarlı bir şekilde devam etmesini sağlamak için daha fazla çalışma yapılması gerektiğini belirtiyor.
Kaynak: Digital Trends
