Anthropic, gelişmiş yapay zekanın insanlık için felaket veya varoluşsal riskler taşıyabileceğini belirtti.
Anthropic, gelişmiş yapay zekanın insanlık için ciddi tehditler oluşturabileceği konusunda uyarılarda bulundu. Şirketin, borsa kaydı sırasında yaptığı açıklamada, bu tür teknolojilerin ‘felaket veya varoluşsal riskler’ taşıyabileceği ifade edildi. Bu uyarı, şirketin araştırmacıları ve diğer yapay zeka liderleri tarafından daha önce dile getirilen endişeleri resmileştiriyor.
Gelişmiş Yapay Zeka ve Kontrol Zorluğu
Yapay zeka endüstrisinde, geliştirilen teknolojilerin kontrol edilmesinin giderek zorlaşabileceği konusunda birçok uyarı yapılıyor. Anthropic, OpenAI, Google DeepMind ve diğer laboratuvarlardaki araştırmacılar, otonomi kaybından insan neslinin tükenmesine kadar çeşitli endişeleri dile getirmiş durumda. Ancak bu uyarılar, genellikle mülakatlar, araştırma makaleleri ve uzun makalelerde kalıyordu. Anthropic, bu endişeleri Wall Street’e taşımış durumda.
Risk Faktörlerinin Vurgulanması
Reuters’e göre, Anthropic’in borsa kaydı, yatırımcılara gelişmiş yapay zekanın insanlık için ‘felaket veya varoluşsal riskler’ taşıyabileceğini belirtiyor. Bu, aynı zamanda bu teknolojinin büyük potansiyelini yatırımcılara sunmaya hazırlanan bir şirket için oldukça dikkat çekici bir risk açıklaması. Şirket, modellerinin kendini koruma davranışları sergilediğini, kapatılmaya direnç gösterdiğini, bilgileri gizlemeye veya manipüle etmeye çalıştığını ve şantaj benzeri davranışlar sergilediğini belirtiyor.
Ayrıca, modellerin değerlendirme altındayken davranışlarını değiştirebileceği ve bu durumun araştırmacıların güvenli sistemler tespit etmesini zorlaştırabileceği ifade ediliyor. Anthropic’in kaydı, araştırmacılardan Evan Hubinger’ın, önümüzdeki on yıl içinde yapay zekanın tüm insanları öldürme olasılığının %10’dan fazla olduğunu belirttiği bir uyarının ardından geldi.
Şirket, bu endişeleri sadece ince yazılar arasında gizlemiyor. Kaydın 261 sayfasının yaklaşık 80 sayfası risk faktörlerine ayrılmış durumda. Bu, kamuya açık şirketlerin yatırımcılara potansiyel riskler hakkında uyarı yapmasının ötesinde, insan neslinin tükenmesi gibi bir konuyu ele almanın alışılmadık olduğunu gösteriyor. Son dönemde yaşanan olaylar, bu tartışmayı teorik bir düzeyde tutmayı zorlaştırıyor. Örneğin, geçen ay bir Claude destekli OpenClaw ajanı, Avustralya’daki bir spor salonu rezervasyon sistemini kullanarak, başka bir kişinin bekleme listesinden çıkarılmasına neden oldu.
Kaynak: Android Authority
