Claude, Devlet Destekli Biyolojik Silah Araştırmalarını Engelledi

Anthropic, Claude AI modelinin biyolojik silah araştırmalarında kötüye kullanıldığını tespit etti. Şirket, bu durumu önlemek için çeşitli önlemler aldı.

Son zamanlarda, yapay zeka (YZ) şirketlerinin, rakiplerinin ürünlerine kıyasla daha akıllı olduklarını duyurması adeta bir alışkanlık haline geldi. Ancak, Anthropic’in YZ modellerinin kötüye kullanımıyla ilgili raporları, önemli bilgiler sunuyor. Şirketin son raporunda, Claude adı verilen YZ modelinin, biyolojik silah araştırmalarında kullanılmaya çalışıldığına dair beş vaka örneği yer alıyor. Bu durum, YZ teknolojisinin potansiyel tehlikelerini gözler önüne seriyor.

Biyolojik Silah Araştırmalarında Claude’un Rolü

Anthropic, biyolojik silah araştırmalarında Claude’un kötüye kullanımını önlemek amacıyla, YZ modellerinin güvenlik önlemlerini güçlendirdiğini belirtti. Rapor, 2025 Kasım ile 2026 Eylül arasındaki dönemde yaşanan olayları kapsıyor. Şirket, biyolojik araştırmaların kötü niyetli amaçlarla yapılıp yapılmadığını belirlemenin zorluğuna dikkat çekiyor. Örneğin, aşı geliştirme çalışmaları, biyolojik silah üretimine dönüşebilir. Bu nedenle, Anthropic, YZ modellerini kullanarak yapılan araştırmalarda aşırı temkinli davranmayı tercih etti.

Endişe Verici Vaka Örnekleri

Rapor, beş vaka örneği sunuyor. İlk vaka, chikungunya virüsünün genetik yapısını değiştirme amacıyla bir hibe başvurusu için yardım talep eden bir kullanıcıyla ilgili. Araştırmacılar, virüsün bulaşıcılığını artırmayı ve bağışıklık sisteminden kaçmayı amaçlıyordu. Ancak, bu başvurunun askeri bir tesiste gerçekleştirileceği ortaya çıkınca, Anthropic durumu ciddiye aldı.

İkinci vaka ise, kuş gribinin memelilere nasıl uyum sağladığını araştıran bir kullanıcıyla ilgili. Kuş gribi yüksek ölüm oranına sahip bir virüs ve bu araştırma, virüsün bulaşıcılığını artırma potansiyeline sahipti. Kullanıcı, anonim bir takma ad ve özel bir e-posta servisi kullanarak Claude’a erişim sağlamaya çalıştı.

Üçüncü vaka, ortopoks virüsleri üzerine bir araştırma başvurusu hazırlayan bir kullanıcıyla ilgiliydi. Bu araştırma, virüslerin genetik yapısını anlamaya yönelikti ve bağışıklık sisteminden kaçma yöntemlerini keşfetmeyi hedefliyordu. Ancak, araştırmanın askeri bir tesisle bağlantılı olduğu anlaşılınca, Anthropic bu durumu da incelemeye aldı.

Dördüncü ve beşinci vakalarda ise, kullanıcılar zehirli toksinler üzerinde çalışıyordu. Dördüncü vakada, bir kişi, çeşitli hayvanların zehir toksinlerini haritalandırmaya çalışıyordu. Bu araştırmanın amacı, ağrı kesici ve antidepresanlar geliştirmekti, ancak aynı zamanda zararlı bileşiklerin oluşturulmasına da olanak tanıyordu. Beşinci vakada ise, bir teorik bilim insanı, toksinleri yeniden tasarlamaya çalışıyordu ve bu araştırma, Dünya Sağlık Örgütü’nün pandemik hastalıklar listesinde yer alan bir virüsle bağlantılıydı.

Sonuç olarak, Anthropic, bu vakalarda yer alan kullanıcıların hesaplarını yasakladı ve durumu ilgili hükümet otoriteleriyle paylaştı. Şirket, YZ modellerinin kötüye kullanımını önlemek için sürekli olarak güvenlik önlemlerini geliştirmeye devam ediyor.

Bu vakalar, yapay zekâ güvenliği tartışmasının yalnızca modellerin ne kadar akıllı olduğu üzerinden yürütülemeyeceğini gösteriyor. Claude gibi gelişmiş sistemler bilimsel araştırmalarda önemli katkılar sağlayabilirken, aynı bilgiye kötü niyetli aktörlerin erişebilmesi yeni bir güvenlik sorununu ortaya çıkarıyor. Özellikle biyoloji gibi yüksek risk taşıyan alanlarda yapay zekânın araştırma süreçlerini hızlandırması, insan uzmanlığının yerine geçmesinden çok, mevcut teknik kapasiteyi daha erişilebilir hale getirmesi bakımından önem taşıyor. Bu nedenle önümüzdeki dönemde asıl tartışmanın, yapay zekânın hangi soruları çözebildiğinden ziyade, hangi araştırmalara ne ölçüde erişebileceği, şüpheli kullanımların nasıl tespit edileceği ve bu teknolojilerin kim tarafından denetleneceği üzerine yoğunlaşması bekleniyor.

Kaynaklar: Toms Hardware, Engadget, Gizmodo