“Yapay Zekâ Bizi Öldürebilir” Anthropic Çalışanı İstifa Edip Dünyayı Uyardı

Yapay zekâ sektörünün önde gelen şirketlerinden Anthropic’te çalışan araştırmacı Jacob Coxon, şirketten istifa ettiğini açıklayarak yapay zekânın geleceğine ilişkin son derece sert uyarılarda bulundu. Daha önce OpenAI’da da görev yapan Coxon, iki şirketin kendi kendini geliştirebilen süperzekâ sistemlerine ulaşmak için tehlikeli bir yarışa girdiğini ve bu yarışın insanlığın geleceğini riske attığını savundu. Coxon’ın açıklamaları, yapay zekâ güvenliği tartışmasını yeniden dünyanın gündemine taşıdı.

Coxon, sosyal medya üzerinden yaptığı açıklamada son üç yılını OpenAI ve Anthropic’te yapay zekâların ön eğitim süreçleri üzerinde çalışarak geçirdiğini söyledi. Araştırmacıya göre her iki şirket de yapay zekânın yeteneklerini hızla artırırken ortaya çıkabilecek tehlikelere karşı yeterince sorumlu davranmıyor. Coxon, şirketlerin “kendi kendini geliştiren süperzekâya” doğru yarıştığını ve bu süreçte insanların hayatıyla kumar oynandığını öne sürdü.

Anthropic’ten gelen ikinci uyarı tartışmayı büyüttü

Coxon’ın en dikkat çekici iddialarından biri, yapay zekâ sektöründe çalışan bazı araştırmacı ve yöneticilerin bu teknolojinin on yılın sonuna kadar insanlığın yok olmasına yol açabileceğine gerçekten inandığı yönünde. Araştırmacı, kamuoyuna yapılan açıklamalarla şirket içindeki konuşmalar arasında fark bulunduğunu ve bazı çalışanların yapay zekânın oluşturabileceği riskleri özel görüşmelerde çok daha ciddi biçimde değerlendirdiğini savundu.

Ancak tartışmayı daha da büyüten gelişme Coxon’ın istifasından sonra geldi. Anthropic’in yapay zekâ güvenliği ve alignment çalışmalarında görev yapan Evan Hubinger, Coxon’ın temel değerlendirmesine katıldığını açıkladı. Hubinger, kendi kişisel tahminine göre yapay zekânın önümüzdeki on yıl içinde bütün insanları öldürme ihtimalinin yüzde 10’dan fazla olduğunu söyledi. Hubinger’ın bu oranının Anthropic’in resmi bir tahmini olmadığı özellikle vurgulanıyor. Araştırmacının asıl endişesi, yapay zekânın kendi kendisini geliştirmeye başlamasıyla ortaya çıkabilecek çok daha güçlü sistemler.

Asıl korku kendi kendini geliştiren yapay zekâ

Coxon’ın açıklamalarındaki kritik nokta ise yapay zekânın yalnızca daha akıllı hale gelmesi değil, kendi gelişimini hızlandırabilecek bir aşamaya ulaşması. “Recursive self-improvement” olarak adlandırılan bu süreçte yapay zekâ sistemlerinin yeni ve daha güçlü yapay zekâ modellerinin geliştirilmesine katkı vermesi bekleniyor. Coxon, mevcut yöntemlerle yapay zekâ sistemlerinin hedeflerini insan amaçlarıyla güvenilir biçimde uyumlu hale getirme probleminin henüz çözülmediğini savunuyor.

Çalışan, özellikle önümüzdeki bir veya iki yılı kritik bir dönem olarak görüyor. WIRED’a konuşan Coxon, Anthropic içerisindeki bazı araştırmacıların bu dönemi “endgame” veya “crunch time” şeklinde değerlendirdiğini söyledi. Ona göre şirketler yapay zekânın sağlayabileceği büyük bilimsel ve ekonomik kazanımlar nedeniyle yarıştan vazgeçmek istemiyor. Coxon da teknolojinin kanser tedavisi ve bilimsel araştırmalar gibi alanlarda olağanüstü sonuçlar yaratabileceğini kabul ediyor; ancak bunun güvenlik sorunları çözülmeden hızlandırılmasının büyük bir risk taşıdığını düşünüyor. 

Coxon’ın istifası, yapay zekâ sektöründeki daha geniş bir tartışmanın ortasında gerçekleşti. OpenAI ve Anthropic gibi şirketler daha güçlü modeller geliştirmek için birbirleriyle yarışırken, bazı araştırmacılar teknolojik ilerlemenin hızının güvenlik çalışmalarının önüne geçmesinden endişe ediyor. Coxon ise çözümün şirketlerin tek başına hareket etmesi yerine daha güçlü koordinasyon ve uluslararası kurallar oluşturulmasından geçtiğini savunuyor.

Bu nedenle Coxon’ın açıklamaları “yapay zekâ kesin olarak insanlığı yok edecek” şeklinde okunmamalı. Ortada doğrulanmış bir gelecek senaryosu değil, yapay zekâ sektörünün içinden gelen ciddi bir risk uyarısı bulunuyor. Fakat uyarının dikkat çekici tarafı, bunu yapan kişinin bu teknolojiyi dışarıdan eleştiren biri değil, hem OpenAI hem Anthropic bünyesinde araştırma yapmış bir isim olması. Üstelik Anthropic’te görev yapan başka bir araştırmacının da benzer risklere ilişkin yüksek bir olasılık vermesi, tartışmayı teknoloji dünyasının çok ötesine taşıyor. 

Kaynak: WİRED Anadolu Ajansı