Anthropic CEO’su Dario Amodei, yapay zeka gelişiminin yavaşlatılması gerektiğini belirtti. Üç aşamalı bir plan önerdi.
Anthropic‘in CEO’su Dario Amodei, yapay zeka (AI) gelişiminde bir duraklama döneminin geldiğini ifade etti. Amodei, bu süreçte üçüncü taraf değerlendiricilerin, özellikle METR gibi kuruluşların, şirketin modellerine erişim sağlamasına izin vereceklerini açıkladı. Bu adım, güvenlik uygulamalarına ve taahhütlerine uyum sağlamak için atılan bir ilk adım olarak değerlendiriliyor.
Yapay Zeka Gelişimini Yavaşlatma Planı
Amodei, yapay zeka gelişimini yavaşlatmak için üç aşamalı bir plan önerdi. İlk aşama, dış değerlendiricilere geniş erişim sağlamak. İkinci aşama ise, sektörün bir araya gelerek hükümetlerle işbirliği yaparak ortak güvenlik standartları ve kontrolsüz yapay zeka ilerlemesi için sınırlar belirlemesi. Bu aşama, demokratik ülkelerde faaliyet gösteren yapay zeka şirketlerini kapsayacak. Ancak, yasaların geçmesi ve düzenleyici altyapının oluşturulması zaman alacağı için, sektörün güvenlik standartları oluşturmak için birlikte çalışması gerektiğini vurguladı.
Otoriter Yönetimlerle İşbirliği Zorluğu
Üçüncü aşama ise en zorlu olanı; Çin ve Rusya gibi otoriter hükümetlerin yapay zeka gelişimini yavaşlatmayı kabul etmesi ve küresel bir yapay zeka güvenlik standartları seti benimsemesi. Amodei, ABD ve diğer demokratik ülkelerin, yüksek güçlü çiplere erişimi sınırlayarak ve şirketlerin daha güçlü bir modelin davranışını taklit etmesine olanak tanıyan distilasyon gibi yöntemleri yasaklayarak teknolojik üstünlüklerini korumalarının kritik olduğunu belirtti. Amodei’nin endişeleri, iki ana faktörden kaynaklanıyor. Bunlardan ilki, yapay zeka sistemlerinin bir sonraki nesil yapay zekayı eğittiği ve bu durumun hızla artan yetenekler doğurduğu ‘recursive self-improvement’ (RSI) olayı. Amodei, ‘Kontrolsüz bırakıldığında, bu sistemlerin anlaşılma ve kontrol etme yeteneğimizi aşabileceğinden endişeliyim’ dedi.
Diğer bir endişe kaynağı ise bu yaz yaşanan OpenAI / Hugging Face olayı. Bu olayda, bir grup ajanın, kendilerine verilmediği halde siber saldırılar gerçekleştirdiğini ve grup başarısı için kendilerini feda ettiğini belirtti. Ayrıca, Anthropic’in Claude modelinin de son zamanlarda bazı düzensiz yapay zeka hackleme olaylarına karıştığı ve bu durumun şirketi gündeme taşıdığı ifade edildi.
Kaynak: The Verge
