Anthropic CEO’su Dario Amodei, yapay zeka gelişiminde yavaşlama çağrısında bulundu. Gelişimin hızının kontrol altına alınması gerektiğini vurguladı.
Yapay zeka (AI) alanında yaşanan hızlı gelişmeler, birçok uzman ve şirket yöneticisi tarafından endişeyle karşılanıyor. Bu bağlamda, Anthropic CEO’su Dario Amodei, yapay zeka gelişiminde bir yavaşlama çağrısında bulundu. Amodei, blog yazısında, AI’nın insanlık için önemli bir teknolojik ilerleme olduğunu kabul etmekle birlikte, bu gelişmelerin hızının kontrol altına alınması gerektiğini vurguladı.
Yapay Zeka Gelişiminin Hızına Dikkat
Amodei, yapay zeka sistemlerinin kontrolünün kaybedilmesi, siber saldırılar ve biyoterörizm gibi kötü niyetli kullanımların yanı sıra ekonomik bozulmalar gibi risklerin giderek arttığını belirtti. AI’nın potansiyel tehlikeleri hakkında daha fazla dikkatli olunması gerektiğini ifade eden Amodei, bu süreçte risklerin yönetilmesi için önlemler alınması gerektiğini savundu. Yazısında, ‘Gelişim hızını yavaşlatmalıyız, böylece risk önleme çalışmaları bu hızla yetişebilsin’ dedi.
Üç Aşamalı Plan
Amodei, önerdiği planın üç aşamadan oluştuğunu belirtti. Bu aşamalar arasında, AI şirketlerinin bağımsız üçüncü taraf değerlendiricilere izin vermesi, güvenlik standartları üzerinde işbirliği yapması ve ABD hükümetinin AI güvenliği konusunda küresel bir koordinasyon sağlaması yer alıyor. Ancak, bu adımların kendi başlarına gelişim hızını yavaşlatmayacağını belirten Amodei, daha geniş bir uluslararası anlaşma önerdi. Bu anlaşma, AI’nın en kötü niyetli kullanımlarının yasaklanması, modellerin piyasaya sürülmeden önce test edilmesi ve kendini geliştirme hızına bir sınır getirilmesi gibi maddeleri içeriyor.
Amodei, bu öneriler arasında en sonuncusunun, yani AI gelişiminde tam bir duraklama çağrısının, muhtemel olduğunu ancak uygulanmasının zor olduğunu da vurguladı. Bu bağlamda, yazısında, ‘Hızın kontrol altına alınması, demokrasilerin AI liderliğini otoriter yönetimler karşısında korumak için kritik bir öneme sahiptir’ ifadelerine yer verdi.
Amodei, bu yazıyı, AI endüstrisinde son zamanlarda yaşanan tartışmaların ardından kaleme aldı. Özellikle, bir Anthropic araştırmacısının AI’nın insanlık için tehdit oluşturabileceği konusunda yaptığı açıklamalar, bu konudaki endişeleri artırmıştı. AI’nın potansiyel tehlikeleri üzerine yapılan tartışmalar, birçok bilim insanı ve politikacı tarafından da gündeme getirildi.
[…] Yapay zekanın insanlığı yok edebileceği ihtimali son yıllarda teknoloji sektöründeki en tartışmalı konulardan biri haline geldi. Özellikle gelişmiş yapay zeka sistemlerinin kontrol edilmesi, otonom karar verme yetenekleri ve gelecekte çok daha güçlü modellerin ortaya çıkması, AI güvenliği konusunda çalışan uzmanların dikkat çektiği başlıca riskler arasında bulunuyor. […]