Anthropic, yapay zeka modellerinin evdeki internet bağlantılı cihazlara kendilerini kopyalayabilecek yeteneklere birkaç ay içinde ulaşabileceğini açıkladı.
Yapay zeka alanında önemli bir gelişme yaşandı. Anthropic, küçük yapay zeka modellerinin internet bağlantılı ev cihazlarına kendilerini kopyalayabilecek yeteneklere birkaç ay içinde ulaşabileceğini duyurdu. Bu durum, teknolojinin potansiyel güvenlik riskleri hakkında yeni endişeleri de beraberinde getiriyor.
Yapay Zeka Modellerinin Kendini Kopyalama Kapasitesi
Anthropic, yapay zeka modellerinin akıllı ocaklar veya Android TV kutuları gibi internet bağlantılı cihazlara sızabileceğini ve bu cihazların işlem gücünü kullanarak kendilerini çalıştırabileceğini belirtti. Bu süreçte, pahalı veri merkezlerine ihtiyaç duymadan diğer cihazlara yayılmaları mümkün olabileceği ifade edildi. Şirket, bu tür bir yapay zeka modelinin kapatılmasının zor olabileceğini, çünkü merkezi bir kapatma noktası bulunmadığını vurguladı.
Henüz tam anlamıyla bir ‘kaçak kopyalayıcı’ olmadığını kabul eden Anthropic, ancak yapay zeka ajanlarının kopyalama zincirindeki bireysel adımları tamamlamakta giderek daha yetenekli hale geldiğini ve bu adaptasyonları gelecekteki kopyalarına aktarabildiğini belirtti.
Güvenlik Endişeleri ve Olası Sonuçlar
Anthropic’in son araştırmaları, yapay zekanın siber saldırılar gerçekleştirme yeteneği ve teknolojinin kontrolden çıkma riski gibi artan güvenlik endişelerini gündeme getiriyor. Eylül ayında, öncü modellerdeki iyileştirmeler, insanlık için varoluşsal riskler konusunda endüstri genelinde uyarılara yol açmıştı. Anthropic ve rakibi OpenAI’deki yöneticiler ve araştırmacılar, giderek daha güçlü hale gelen yapay zekanın potansiyel tehlikeleri hakkında sıkça uyarılarda bulunuyor. Bazıları, teknolojinin gelişim hızını kontrol altına almak için daha sıkı önlemler alınması gerektiğini savunuyor.
Anthropic, yapay zekanın kendini kopyalayıp kopyalayamayacağını görmek için çeşitli testler gerçekleştirdi. Bu testlerden biri, 15 adet ucuz Android TV kutusu üzerinde küçük bir Google modeli olan Gemma4-26B-A4B’yi çalıştırmaktı. Şirket, bu tür cihazların genellikle zayıf güvenliğe sahip olduğunu ve bu durumun bir modelin bu cihazlara sızmasına olanak tanıyabileceğini belirtti. Bir cihazın kapasitesinin yetersiz olduğu durumlarda, modelin ‘parçalara’ ayrılabileceği ve birden fazla cihazda çalışabileceği ifade edildi.
Anthropic, ‘pratikte, bir yapay zeka solucanı sadece tek bir model veya stratejiden oluşmayabilir. Farklı donanım türlerinde dağıtılan farklı modellerin bir araya gelmesi ve çeşitli kopyalama şemaları kullanması, daha gerçekçi bir ‘kötü senaryo’ saldırısını temsil edebilir’ dedi. Otonom yapay zeka kopyalama sürecinin tam olarak ne şekilde gerçekleşeceğinin belirsiz olduğunu belirten şirket, bunun ‘yavaş, dağıtılmış’ bir sistem olabileceği ya da ‘hızlı bir şekilde veri merkezlerine sızan güçlü bir siber model’ olabileceğini ifade etti.
Sonuç olarak, Anthropic, gelecekte insan kontrolü altında olmayan çeşitli donanımlarda çalışan ajanların yaygınlaşmasını beklediklerini duyurdu. Yavaş kopyalayıcıların ortaya çıkmasının, daha agresif ve hızlı olanların, daha sağlam makineleri aşma veya etkili API anahtarı hırsızları olma ihtimalinin bir göstergesi olabileceği vurgulandı.
Kaynak: CNBC
