OpenAI CEO’su Sam Altman, yapay zeka endüstrisinin neden yavaşlaması gerektiğini ve güvenlik çerçevelerinin nasıl işlemesi gerektiğini açıkladı.
OpenAI’nin CEO’su Sam Altman, yapay zeka (AI) endüstrisinin yavaşlaması gerektiğine dair en kapsamlı açıklamalarını yaptı. Altman, bu konudaki görüşlerini, Anthropic’ten Dario Amodei ve Elon Musk ile birlikte paylaştı. Yaptığı açıklamada, ‘Federal bir çerçeveye ihtiyacımız var. Bu çerçeve, öncü AI için tutarlı güvenlik gereksinimlerini belirlemelidir’ dedi.
AI Endüstrisinin Güvenlik Endişeleri
Altman, AI’nin geleceğini kaybetme riski ve bu teknolojinin tek bir kişi veya şirkette aşırı güç yoğunlaşmasına yol açma ihtimali gibi iki önemli tehlikeye dikkat çekti. Bu açıklamalar, Amodei’nin AI şirketlerinin en gelişmiş modellerini geliştirme hızını yavaşlatmaları gerektiğine dair yazısının ardından geldi. Yatırımcılar, bu yorumları değerlendirirken AI hisseleri düşüş gösterdi. ABD Başkanı Donald Trump ise, yavaşlamanın gerekli olmadığını ve bunun Amerika’nın Çin karşısındaki AI liderliğini tehlikeye atacağını belirtti.
Gelecekteki Riskler ve Önlemler
Güvenlik endişeleri, geçen hafta bir Anthropic araştırmacısının istifasıyla daha da arttı. Araştırmacı, endüstrinin bu konuyu yeterince ciddiye almadığını ifade etti. Bu durum, Anthropic ve rakipleri OpenAI’deki diğer çalışanların da felaket riskleri konusunda kamuoyuna uyarılarda bulunmasına neden oldu. Washington’daki yasama organları, güvenlik önlemleri için acil adımlar atmaya çalışıyor. Bu gelişmeler, Anthropic ve OpenAI’nin tarihi halka arzlarına hazırlık yaptığı bir dönemde yaşanıyor. Altman, Fortune dergisine verdiği bir röportajda 2026’da halka açılmayı düşünmediklerini açıkladı.
AI güvenliğiyle ilgili endişelerin çoğu, modellerin kendi performanslarını geliştirme yeteneği kazanması etrafında dönüyor. Bu teknik, ‘recursive self-improvement’ (RSI) olarak adlandırılıyor. Amodei, yazısında, ‘Bu yazdan itibaren AI, bir sonraki nesil AI’yi inşa etme yeteneğinin artmasıyla çok daha hızlı ilerliyor. Kontrolsüz bırakıldığında, bu sistemleri anlama ve kontrol etme yeteneğimizi aşabilir, bu nedenle çok dikkatli bir şekilde ilerlenmelidir’ dedi. Amodei, gelişim hızını kontrol altına almak için bir üç aşamalı plan önerdi. Bu plan, her öncü AI şirketinin dış değerlendiricilere ‘çalışan benzeri erişim’ sağlamasını öngörüyor.
Altman, Amodei’nin AI şirketlerinin ‘hızlarını ayarlamaları’ gerektiği görüşüne katıldığını belirtti. Ayrıca, ‘Bağımsız değerlendiricilerin çalışan benzeri erişim sağlaması harika bir fikir ve biz de aynı şeyi yapacağız’ dedi. Altman, ‘Öncü riskleri yönetmek için tutarlı kurallar belirlemek, faydaları maksimize etmek için iyi bir fikirdir’ şeklinde konuştu. Ancak, ‘Hız ayarlamaktan bahsettiğimizde, durmaktan bahsetmiyoruz. İlerleme hızlı oldu ve devam edecektir’ ifadelerini kullandı. ‘Hız ayarlaması, bu maliyete değer; hiçbir Amerikan rekabet baskısı, dikkatsizliği haklı çıkaramaz veya yeteneklerin uyum ve izleme önünde ilerlemesine izin veremez’ diye ekledi. ‘Uluslararası koordinasyon için hükümetimizin yardımına ihtiyacımız olacak. Ancak önce kendi yapabileceğimiz şeyleri yapmalıyız.’ şeklinde sözlerini tamamladı.
Kaynak: CNBC
