OpenAI’de güvenlik raporları yazan David Robinson, şirketin kültürünün bozulduğunu belirterek istifa etti. Robinson, bu durumun yapay zeka güvenliği açısından ciddi riskler taşıdığını vurguladı.
David Robinson, OpenAI’de üç buçuk yıl boyunca güvenlik raporları yazmış bir çalışan olarak, şirketten istifa ettiğini ve bu kararının arkasındaki nedenleri The Atlantic dergisinde paylaştı. Robinson, OpenAI’nin kültürünün ‘bozuk’ olduğunu savunarak, bu durumun yapay zeka güvenliği açısından ciddi riskler taşıdığını ifade etti.
OpenAI Kültürü ve Güvenlik Sorunları
Robinson, istifasının gerekçelerini açıklarken, şirketin güvenlik önlemlerinin yetersiz olduğunu ve bu durumun daha geniş bir sorun yelpazesinin parçası olduğunu belirtti. Şirketin CEO’su Sam Altman’ın güven kaybı yaşadığına dair haberlerin yanı sıra, Robinson, OpenAI’nin kültürel sorunlarının Silikon Vadisi genelindeki sorunlarla benzerlik gösterdiğini öne sürdü. ‘OpenAI, deneme yanılma yöntemiyle ilerliyor ve bu yaklaşım, kaçınılmaz olarak arızalara yol açıyor’ dedi.
Robinson, OpenAI’nin son zamanlarda yaşadığı güvenlik ihlalleri ve rogue agent (kaçak ajan) sorunlarına dikkat çekerek, ‘Böyle bir ortamda yapay zeka geliştirmek, insanlık için tehlikeli’ ifadesini kullandı. Ayrıca, yapay zeka şirketlerinin, nükleer santraller veya yoğun havaalanları gibi çalışması gerektiğini, bu tür bir düzenlemenin kaçınılmaz insan hatalarının felaketlere yol açmasını engelleyeceğini vurguladı.
Yapay Zeka Güvenliği İçin Acil Değişim Gerekiyor
Robinson, şirket içinde güvenlik konusunda deneyime sahip birinin olmadığını belirterek, bu durumun yapay zeka güvenliğini tehdit ettiğini söyledi. İstifasının ardından OpenAI sözcüsü Drew Pusateri, şirketin güvenlik önlemlerini geliştirmeye devam ettiğini ve modellerin güvenli bir şekilde yönetilmesi için gerekli adımları attıklarını açıkladı. Robinson ise, şirket kültüründe köklü değişikliklerin sağlanması gerektiğini ve bunun için dışarıdan gelen güçlü teşviklerin önemli olduğunu ifade etti.
Robinson, AI endüstrisinin mevcut sorunları çözmeden daha akıllı modeller geliştirmesine izin vermenin tehlikelerini vurgulayarak, ‘Sorunlar çözülmeden modellerin daha akıllı hale gelmesine izin verilirse, durum daha da tehlikeli hale gelir’ dedi. Robinson’un istifası, AI endüstrisindeki güvenlik çalışanlarının artan bir şekilde istifa etmeleriyle aynı zamana denk geldi. Bu durum, sektördeki güvenlik endişelerinin daha geniş bir tartışmaya yol açtığını gösteriyor.
Kaynaklar: TechCrunch, The Verge
[…] Bu karar, bağlayıcı bir emsal oluşturmasa da, federal bir yargıcın Flock aramasının anayasaya aykırı olduğu yönünde verdiği ilk kararlardan biri olarak kaydedildi. Yargıç Hill, şerif yardımcısının, kadının aracının sadece Kaliforniya plakalı olmasından dolayı bu aramayı gerçekleştirdiğini ifade etti. […]