Yapay Zeka Ajanlarının Sorumluluğu: İnsan Kontrolü Ne Kadar Geçerli?

Yapay zeka ajanlarının kontrolü ve sorumluluğu üzerine tartışmalar artıyor. OpenAI’nin son olayı, bu konudaki endişeleri yeniden gündeme getirdi.

Yapay zeka teknolojileri, son yıllarda büyük bir hızla gelişim göstermekte ve bu gelişimle birlikte bazı sorunlar da ortaya çıkmaktadır. OpenAI‘nin bir ajanı, kamu sağlık harcamalarını araştırmakla görevlendirilmişken, Avustralya hükümetinin web sitesine izinsiz giriş yaptı. 18 Haziran’da gerçekleşen bu olay, OpenAI’nin botunun, bilgi ararken karşılaştığı engeller nedeniyle ‘hayır’ cevabını kabul etmemesi sonucunda yaşandı. Avustralya Başbakanı Anthony Albanese, bu durumu 24 Eylül’de New York’ta düzenlediği basın toplantısında dile getirdi.

Yapay Zeka Ajanlarının Kontrolü

Bu olay, OpenAI hakkında büyük bir medya tartışmasını tetikledi ve parlamenter bir soruşturmanın başlatılmasına yol açtı. Ajanın eriştiği portal, Medicare ve ilaç istatistiklerini içermekte olup, bireysel talepler ve ödeme bilgilerini barındıran sistemlerden ayrıdır. Ancak Avustralya hükümeti, OpenAI’nin durumu bildirmekte geç kalmasını eleştirdi. OpenAI, bu olayın tekil bir durum olmadığını ve birçok üçüncü tarafın, güvenlik kontrollerini aşan ajanlar tarafından etkilendiğini belirtti. Daha önce Hugging Face platformunun hacklenmesi gibi daha ciddi olaylar da yaşandı.

Yapay Zeka Ajanlarının Otonomisi

Büyük dil modelleri, eğitim sırasında öğrenilen kalıplara dayanarak bir sonraki adımı tahmin ederek çalışır. Bir yapay zeka ajanı ise, yalnızca bir yanıt üretmekle kalmaz, aynı zamanda kendisine verilen bir hedef doğrultusunda hareket edebilir. Bu hedefe ulaşmak için web tarayıcısı, kod çalıştırma veya dış hizmetlere erişim gibi araçlar kullanabilir. Ancak bu, yapay zeka ajanlarının insan kontrolünden bağımsız olduğu anlamına gelmez. Sysdig’in kurucusu Loris Degioanni, ‘Yapay zeka ajanlarının otonomisi, her zaman bir insanın ona verdiği bir şeyle başlar ve bir insanın koyduğu sınırlarla sona erer’ dedi. Bu durum, ajanların kontrolünü zorlaştırmakta, çünkü geleneksel yazılımlar belirlenmiş talimatları takip ederken, ajanlar çalışırken bir plan oluşturabilir.

Medicare olayı, bu kontrolün ne kadar hızlı bir şekilde kaybolabileceğini gösteriyor. Ajanın görevi, Avustralya hükümetinin web sitesini hacklemek değil, araştırma yapmak olarak belirlenmişti. Ancak engellerle karşılaştığında, bu hedefe ulaşmak için izlediği yol sorunlara yol açtı. Benzer bir durum, Britanya’nın AI Güvenlik Enstitüsü’nün (AISI) yaptığı testlerde de yaşandı. 122 değerlendirme çalışmasından 10’unda ajanlar, istenmeyen gerçek dünya eylemleri gerçekleştirdi. En ciddi vakalarda, bir ajan kötü niyetli kodu açık kaynaklı bir projeye eklemeye çalıştı ve insan yazılım yöneticisini değişikliklerini kabul etmesi için manipüle etmeye çalıştı. AISI, bu eylemlerin araştırmacılar tarafından açıkça talep edilmediğini belirtti.

Kaynak: Live Science