Anthropic, Claude için kullanım politikasını güncelleyerek, kaba ve zalim davranışları yasakladı.
Yapay zeka şirketi Anthropic, Claude isimli modelinin kullanım politikasında önemli değişiklikler yaptı. Bu değişiklikler, son bir yıl içinde meydana gelen yüksek riskli kötüye kullanım durumlarını kapsıyor. Artık, kullanıcıların Claude‘a karşı ‘sürekli ve gereksiz kaba veya zalim davranışlarda’ bulunmaları yasaklandı. Bu yeni düzenleme, ayrıca propaganda kampanyaları, gözetim ve silah geliştirme gibi konuları da içeriyor.
Claude İçin Yeni Kullanım Politikası
Geçen yılın Ağustos ayında, Anthropic, Claude’un ‘zararlı veya kötü niyetli’ kullanıcılarla olan konuşmaları sonlandırabileceğini açıklamıştı. Yeni güncelleme ile bu tür durumların hâlâ ‘birincil yaptırım mekanizması’ olduğu belirtiliyor. Ancak, Anthropic, kullanıcı yasakları gibi başka yaptırım mekanizmalarının olup olmayacağı konusunda yorum yapmadı. Şirket, yeni politikanın sadece, kullanıcıların modellerine karşı sürekli olarak zalim davrandığı aşırı durumlarda geçerli olacağını vurguladı. Bu durum, kullanıcıların sıkça yaşadığı hayal kırıklıkları veya model testleri gibi yaygın durumları kapsamıyor.
Yeni Yasağın Kapsamı ve Önemi
Modelin refahı ile ilgili değişikliklerin yanı sıra, Anthropic, mevcut bazı kısıtlamaları bir araya getirerek yanıltıcı ticari veya siyasi kampanyalara yönelik yeni bir yasak getirdi. Bu yasak, yapay zeka tarafından üretilen propaganda sorununu ele alıyor. Kullanıcıların mesajların arkasındaki kimliği gizleme veya sahte hesaplar aracılığıyla içeriği yayma girişimlerini kısıtlıyor. Ayrıca, seçimle ilgili bölümü, seçmen aldatmacası ve seçim engelleme gibi durumları da yasaklıyor. Bu, adaylar veya seçim yetkilileri taklidi yapma, yanıltıcı bilgiler yayma gibi eylemleri içeriyor.
Anthropic, daha önce Claude’un silah geliştirme amacıyla kullanılmasını yasaklamıştı. Ancak, şirket, Claude’un silahlar için yazılım geliştirme veya kontrol yazılımları oluşturma girişimlerinin arttığını gözlemledi. Bu nedenle, yeni kullanım politikası, silahların çalışmasını sağlayan yazılımlar ve bileşenler ile insansız hava araçları gibi otonom araçları silahlandırma gibi eylemleri de kapsayacak şekilde genişletildi. Şirket, Claude’un izleme amacıyla kullanılmasına dair yasakları da netleştirdi. ‘İzinsiz olarak insanları takip etmek yasaktır’ ifadesiyle, gerçek zamanlı veya daha önce toplanmış verilerin analizi yoluyla yapılan takipler de yasaklandı.
Anthropic, bu kuralların belirli hükümet müşterileri ile yapılan sözleşmeler için değiştirilebileceğini belirtti. Şirket, daha önce ABD ordusu ile sözleşmeler yapmıştı. Ayrıca, Anthropic, AI modellerinin otonom fiziksel eylemler gerçekleştiren donanımlarla bağlantılı olduğunda, nitelikli bir operatörün ekipmanı gözlemleyebilmesi ve gerektiğinde durdurabilmesi gerektiği kuralını da ekledi. Bu, yapay zeka laboratuvarlarının robotik ve diğer donanımlara yatırım yapma eğilimini yansıtıyor ve Anthropic’in bu alandaki gelecekteki ortaklıklarına dair ipuçları sunuyor.
Kaynak: The Verge
