Yapay Zeka Güvenliği İçin Yeni Düzenlemeler Gerekiyor

OpenAI ve Anthropic, İngiliz milletvekillerine yapay zeka güvenliği için yeni yasaların şart olduğunu belirtti.

OpenAI ve Anthropic temsilcileri, İngiltere’deki bir parlamento oturumunda, yapay zeka güvenliği için gönüllü taahhütlerin yeterli olmadığını belirterek yeni yasal düzenlemelerin gerekliliğini vurguladılar. Bu durum, Google DeepMind ve Meta gibi diğer büyük teknoloji firmalarının yeni yasaları desteklememesiyle birlikte, kamuoyunda bir bölünmeyi derinleştirdi.

Yapay Zeka Güvenliği İçin Yasal Çerçeve İhtiyacı

İngiltere İş, İnovasyon, Bilim ve Ticaret Komitesi, dört öncü yapay zeka firması, bu firmaların eski çalışanları ve üst düzey Britanya kamu görevlilerinin katılımıyla bir oturum gerçekleştirdi. Anthropic’ın Avrupa Başkanı Liam Booth-Smith, yapay zeka güvenliğinin artık yasal bir çerçeveye ihtiyaç duyduğunu ifade etti. Booth-Smith, ‘Şirketler için bağlayıcı kurallar olmalı ve gönüllü taahhütler yeterli değil’ dedi. OpenAI‘nin başkan yardımcısı Tom Duff Gordon ise daha temkinli bir yaklaşım sergileyerek, yasal bir çerçevenin ve uluslararası bir sözleşmenin gerekliliğini desteklediğini belirtti. Gordon, ‘Bazı unsurların zorunlu olması gerektiğini düşünüyoruz’ dedi.

Regülasyon Konusundaki Farklı Yaklaşımlar

Ancak, rakip firmalar bu görüşü paylaşmadı. Google DeepMind’in Owen Larter, yasal bir çerçeveyi destekleyip desteklemediği sorusuna, ‘Standartlara odaklanmak bizim yapacağımız şey’ yanıtını verdi. Meta’nın Rob Sherman ise mevcut düzenleyicilere atıfta bulunarak, ‘Boş bir sayfa üzerinde yazmıyoruz’ şeklinde konuştu. Bu oturum, yapay zeka liderleri arasındaki düzenleme konusundaki farklı yaklaşımları gün yüzüne çıkardı. Komite başkanı Liam Byrne, bu farklılıkların ortaya konmasının amacının, dünyanın en zengin firmaları arasındaki görüş ayrılıklarını aydınlatmak olduğunu belirtti.

Oturumun ilerleyen bölümlerinde, kamu görevlileri mevcut sistemin ne kadar az zorlayıcı olduğunu kabul ettiler. İngiltere’nin Yapay Zeka Güvenlik Enstitüsü (AISI), öncü modelleri piyasaya sürmeden önce test ediyor, ancak bu yalnızca firmaların isteği üzerine gerçekleşiyor. AISI’nin direktörü Henry de Zoete, enstitünün tamamen şirketlerin ve yabancı hükümetlerin işbirliğine bağımlı olduğunu ifade etti. AISI’nin, bir modelin tehlikeli olduğunu değerlendirmesi durumunda bile, firmaların bunu piyasaya sürmesini engelleme yetkisinin bulunmadığını belirtti.

Oturumda ayrıca, dört eski laboratuvar araştırmacısı da söz aldı. Eski OpenAI çalışanı Daniel Kokotajlo, ‘Şirketlerin kendilerini düzenleyebileceğine inanmıyorum’ dedi. Steven Adler ise, sektördeki güvenlik kültürü konusunda kendine güvenmediğini ifade etti. Geoffrey Irving, laboratuvarların hükümetlerin yapay zeka alanında bir yarış içinde olduğunu düşündüğünü belirtti.

Kaynak: Wired