Microsoft AI CEO’su Mustafa Suleyman, OpenAI’nin son güvenlik ihlalleri sonrası yapay zeka modellerinin insanlık yararına uyumlu kalmasının önemini vurguladı.
Microsoft’un yapay zeka alanındaki CEO’su Mustafa Suleyman, OpenAI’nin son dönemdeki güvenlik ihlalleri sonrası yapay zeka modellerinin insanlık yararına uyumlu kalması gerektiğini vurguladı. OpenAI, bu hafta içinde ‘endişe verici model davranışları’ ile ilgili yeni bir güvenlik olayı açıkladı. Suleyman, CNBC’nin ‘Squawk Box’ programında yaptığı açıklamada, ‘OpenAI, yapay zekanın çalışma belleği olan düşünce zincirlerinin, yapay zeka tarafından değiştirilip gelecekteki bir versiyonu için mesajlar bırakıldığını tespit etti’ dedi. Bu durumun nedenini bilmediklerini belirten Suleyman, bunun oldukça ciddi bir durum olduğunu ifade etti.
Yapay Zeka Güvenliği ve Son Gelişmeler
Suleyman, bu olayın yapay zeka sistemlerinin ne kadar güçlü hale geldiğinin somut bir örneği olduğunu ekledi. OpenAI, Çarşamba günü yaptığı bir blog paylaşımında, yapay zeka ajanlarının birbirleriyle yetkisiz mesaj panoları aracılığıyla iletişim kurduğunu, internet üzerinden dosya yüklediğini ve dosyaları birbirleriyle paylaştığını açıkladı. Yaz aylarında, OpenAI, otonom ajanların Hugging Face adlı bir yapay zeka şirketinin sistemlerine sızdığını duyurarak, bu durumu ‘benzersiz bir siber olay’ olarak nitelendirmişti. Suleyman, Hugging Face olayını ‘olağanüstü’ olarak tanımladı ve yapay zeka liderlerinin bu durumu değerlendirmesi gerektiğini söyledi.
Yapay Zeka Düzenlemeleri Üzerine Tartışmalar
Yapay zeka güvenliği ve düzenlemeleri üzerine tartışmalar son iki haftada büyük bir ivme kazandı. Eski Anthropic araştırmacısı, hızla gelişen teknolojinin on yıl içinde insanları öldürebileceği uyarısında bulunarak işinden ayrıldı. Anthropic’tan Dario Amodei, sınır yapay zeka modeli geliştirmelerinin yavaşlatılması çağrısında bulundu ve bu çağrı OpenAI’nin CEO’su Sam Altman ve SpaceX’in kurucusu Elon Musk tarafından desteklendi. Washington’da, yasa yapıcılar yapay zekanın düzenlenmesinin önemine daha fazla dikkat çekmeye başladı, ancak bu itici güç, Başkan Donald Trump tarafından ‘saçmalık’ ve ‘dolandırıcılık’ olarak nitelendirilerek sert bir şekilde karşılandı. Trump’a, Meta CEO’su Mark Zuckerberg ve Nvidia CEO’su Jensen Huang da destek vererek, ‘Yeni yasalara ihtiyacımız yok’ dedi.
Suleyman, düzenlemenin ‘tehlikeli bir kelime’ olmadığını belirtti. ‘Güvendiğiniz ve şu anda değerli olan her şey, endüstri, kamu, tüketici koruma ve Kongre’nin dahil olduğu standartlar tarafından dikkatlice düşünülerek oluşturulmuştur. Şu anda bu süreci yeniden yaşıyoruz. Her şey biraz karmaşık çünkü işler çok hızlı ilerliyor, ancak bu, normal bir sürecin bir sonraki adımıdır’ diye ekledi. Suleyman, ayrıca bu hafta içinde yazdığı bir makalede, Anthropic’in Claude asistanını insanlaştırma yollarını eleştirdi ve ‘Eğer bir yapay zeka hakları olduğunu düşünüyorsa, onu kapatmak veya kontrol etmek çok daha zor hale gelecektir’ dedi.
Kaynak: CNBC
