OpenAI, Avrupa Birliği’nde ChatGPT ve Codex tarafından üretilen metinlere görünmez bir su işareti eklemeye başlıyor.
OpenAI, Avrupa Birliği’nde ChatGPT ve Codex tarafından üretilen metinlere görünmez bir su işareti eklemeye başladığını duyurdu. Bu uygulama, 2 Ağustos’ta yürürlüğe giren AB AI Yasası’nın gerekliliklerine uyum sağlamak amacıyla gerçekleştiriliyor.
AI Metinleri için Su İşareti Uygulaması
Su işareti, metinlerin içeriğini belirli bir şekilde şekillendirerek çalışıyor. Bu yöntem, okuyucular tarafından görünmeyen ancak dedektörler tarafından tespit edilebilen bir desen oluşturuyor. OpenAI, bu su işaretinin kullanıcıyı tanımlamadığını ve metinlerin performansında anlamlı bir değişiklik yaratmadığını belirtti. Su işareti, metin kopyalandığında da onunla birlikte taşınıyor.
OpenAI, bu su işareti uygulamasını öncelikle Avrupa’daki kullanıcılar için devreye alacak. Ancak, API kullanıcıları dünya genelinde belirli modeller için su işaretini etkinleştirebilecek. Su işareti, varsayılan olarak kapalı durumda olacak.
Teknik Rapor ve Uygulama Detayları
OpenAI, su işareti uygulamasıyla ilgili bir teknik rapor da yayımladı. Bu rapor, Pennsylvania Üniversitesi ve Yale Üniversitesi’nden araştırmacılarla birlikte hazırlanmış olup, metinlerin nasıl işaretlendiğine dair örnekler sunuyor. OpenAI, bu yöntemi ‘textGrain’ olarak adlandırıyor. Metinlerin içindeki kelimelerin belirli bir sırayla düzenlenmesiyle, dedektörlerin AI tarafından üretilen içerikleri tespit edebilmesi sağlanıyor.
OpenAI, su işaretinin kaldırılmasının mümkün olduğunu da belirtti. Örneğin, kelimelerin %10’unun eşanlamlılarıyla değiştirilmesi durumunda, tespit oranının %92’den %66’ya düştüğü gözlemlendi. Kısa metinler, matematiksel yanıtlar ve çevrilmiş metinlerin tespit edilmesinin daha zor olduğunu da vurguladı.
Gelecek Planları ve Kullanıcı Geri Bildirimleri
OpenAI, su işareti uygulamasının başlangıçta yalnızca onaylı araştırmacılara ve uzman kuruluşlara erişim izni vereceğini açıkladı. Bu, uygulamanın güvenilirliğini değerlendirmek ve sorumlu kullanımlarını desteklemek amacıyla yapılacak. Ayrıca, eksik bir su işaretinin insan yazarlığını kanıtlamadığını da belirtti. Metin, çok kısa veya aşırı düzenlenmiş olabilir ya da başka bir şirketin AI’sından gelmiş olabilir.
Bu duyuru, Anthropic’in Claude tarafından üretilen metinlere su işareti ekleyeceğini açıkladığı iki ay sonrasında geldi. OpenAI, bu uygulamanın kullanıcılar arasında olumsuz tepkilere neden olabileceğini göz önünde bulundurarak, su işareti uygulamasını global bir varsayılan olarak başlatmaktan kaçındı.
Kaynaklar: The Register, TechCrunch, The Verge
