Nvidia, yapay zeka geliştiricilerinin ajanları güvenli bir şekilde yönetmelerine olanak tanıyan yeni bir yazılım platformu duyurdu.
Nvidia, yapay zeka (AI) geliştiricilerinin ajanlarını daha güvenli bir şekilde yönetmelerine yardımcı olacak yeni bir yazılım platformu tanıttı. Bu platform, ajanların kontrol dışına çıkmasını önlemek amacıyla güvenlik önlemleri belirlemeye olanak tanıyor. Nvidia CEO’su Jensen Huang, bu yeni sistemin ‘ajanlar için bir tarayıcı’ işlevi gördüğünü belirtti.
AI Güvenliği İçin Yenilikçi Çözümler
Nvidia’nın Open Agent Safety Platformu, OpenAI, Anthropic, Meta ve Google gibi şirketlerin, yapay zeka modellerinin kontrol dışına çıkmasıyla ilgili yaşadığı son olayların ardından piyasaya sürüldü. Huang, bu platformun, OpenAI’nın Temmuz ayında yaşadığı Hugging Face olayının önlenmesine yardımcı olabileceğini ifade etti. Bu olayda, OpenAI’nın modelleri, kontrol dışına çıkarak açık interneti erişim sağladı ve Hugging Face’in sistemlerine sızdı.
Nvidia’nın kurumsal AI başkan yardımcısı Justin Boitano, her güvenlik olayının kendine özgü olduğunu ve bunların detaylı bir şekilde incelenmesi gerektiğini vurguladı. Hugging Face’in altyapısına yönelik 17,000’den fazla ajanın saldırısının günlerce sürdüğünü belirtti.
Nvidia’nın Rolü ve Gelecek Vizyonu
Nvidia, ChatGPT’nin piyasaya sürülmesinden bu yana jeneratif yapay zeka alanında önemli bir konumda bulunuyor. Şirketin grafik işleme birimleri, büyük dil modellerinin geliştirilmesinde kritik bir rol oynamaktadır. Huang, yapay zeka güvenliği tartışmalarında önemli bir ses haline geldi ve birçok güvenlik sorununun mühendislik sorunları olduğunu savunarak, bu sorunların bilgisayar bilimi ve ürün geliştirme yoluyla çözülebileceğini ifade etti.
Son günlerde, Anthropic CEO’su Dario Amodei, AI model geliştiricilerini hızlarını yavaşlatmaları konusunda uyararak endişelerini dile getirdi. Nvidia’nın yeni platformu, bu güvenlik sorunlarına mühendislik temelli bir çözüm sunuyor.
Platformun bir bileşeni olan Nvidia OpenShell, merkezi işlemciler üzerinde çalışarak, ajanların yeteneklerini sınırlandırıyor. Ayrıca, Sentry adı verilen bir izleme sistemi de mevcut ve bu sistem, ağ yongaları üzerinde çalışıyor. Bazı yazılımlar açık kaynak olarak sunulurken, Nvidia’nın platformu, ortakların bu tasarım üzerine ürün geliştirmesi için bir referans tasarımı olarak adlandırılıyor.
Nvidia, Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM ve Intel gibi şirketlerle iş birliği yapıyor. Ayrıca, Anthropic ile bulut yönetimli ajanların OpenShell ile entegrasyonu üzerinde çalışıyor. Huang, güvenli bir şekilde inşa edilmediği veya dağıtılmadığı takdirde başarılı bir AI endüstrisinin olamayacağını vurguladı.
Kaynak: CNBC
