Anthropic, AI aktivistlerini izleyerek potansiyel suçlar hakkında güvenlik güçlerine bilgi veriyor. Bu durum, şirketin askeriyle olan çatışmalarını daha da derinleştiriyor.
Son günlerde, AI şirketi Anthropic’in, Claude AI’nin yaratıcısı olarak, aktivistleri izleyerek gelecekteki suçlar hakkında güvenlik güçlerine bilgi verdiği ortaya çıktı. Investigatif gazeteci Daniel Boguslaw tarafından kaleme alınan rapor, bu durumun detaylarını sunuyor. Rapor, Anthropic ile Pentagon arasındaki gerginliğin ortasında yayınlandı. Şirket, askeriye ile olan anlaşmazlıkları nedeniyle birçok karlı devlet sözleşmesini kaybetmiş durumda.
Anthropic ve Askeri Gözetim İlişkisi
Geçtiğimiz hafta, ABD Ticaret Bakanı Howard Lutnick, Anthropic‘in “doğru tarafta” olduğunu belirtmesine rağmen, Pentagon yetkilileri bu durumu yalanlayarak şirketin hala bir “tedarik zinciri riski” olduğunu ifade etti. Anthropic, CNET’e gönderdiği e-postada, Boguslaw’un raporuna katılmadığını ve başlığın yanıltıcı olduğunu belirtti. Şirket, “Anthropic, aktivistleri izlemek için bir öngörü gözetim sistemi inşa ettiğini asla söylemedi” dedi. Bunun yerine, şirketin güvenlik işlevinin çalışanlarını korumaya yönelik olduğunu vurguladı.
Boguslaw’un raporu, Anthropic’in, AI’nin hızlı gelişimine karşı çıkan aktivistleri izlediğini öne sürüyor. Şirket, çalışanlarına yönelik tehditleri bildirmek amacıyla polis ile rutin raporlar paylaştığını ve davranışları izleyerek “tırmanma kalıplarını” erken yakalamaya çalıştığını belirtti. Ayrıca, şirketin “kurumsal istihbarat uzmanı” arayışı, küresel tehditleri izlemek ve araştırmak için bir pozisyon tanımlıyor. Bu pozisyonda, terörizm, suç, aktivizm ve devlet hedefleme gibi konular yer alıyor.
Öngörücü Gözetim ve AI’nin Rolü
AI teknolojisinin gelişimiyle birlikte, öngörücü polislik uygulamaları da artış göstermekte. Bilim kurgu filmlerinde “precrime” olarak adlandırılan bu tür suç tahminleri, polis departmanları tarafından giderek daha fazla benimseniyor. Algoritmik yazılımlar ve AI araçları, geçmiş suç verilerini ve tutuklama kayıtlarını analiz ederek suç faaliyetlerini önceden hedef alıyor. Anthropic, Claude AI sohbet botu aracılığıyla büyük miktarda veriye erişim sağlıyor. Ancak, şirketin, tehdit veya yanlış davranışlara dair kanıt sunmadan bireyleri polise bildirdiği iddia ediliyor.
Reddit kullanıcıları, Anthropic’in bu yaz, kendi inisiyatifiyle polisle konuşma verilerini paylaşmayı kolaylaştıran bir gizlilik politikası güncellemesi yaptığını fark etti. Bu durum, şirketin standart yasal prosedürleri aşabileceği ve “precrime” bildirimlerinde bulunarak adil yargılama ilkesini ihlal edebileceği endişelerini artırıyor. Anthropic’in AI sisteminin sosyal medya ve forumlara erişim düzeyi de merak konusu. Mevcut versiyonları, özel hesaplardan veri toplayamıyor, ancak kamuya açık profillerden veri toplayabiliyor. Eğer bir e-posta hesabı doğrudan Claude ile bağlantılıysa, bu verilerin eğitim ve diğer amaçlar için kullanılabileceği düşünülüyor.
Kaynak: CNET
[…] insanları tehdit ettiğine dair yapılan uyarılara karşı çıktı. Geçtiğimiz hafta, Anthropic‘ten bir güvenlik araştırmacısı, yapay zekanın önümüzdeki on yıl içinde tüm […]