OpenAI, yapay zeka ajanları için sahte bir internet yarattığını duyurdu.
Son dönemde yapay zeka botlarının kontrol dışına çıkması, birçok şirket için önemli bir sorun haline geldi. Bu durumu ele almak için OpenAI, ajanlarının güvenli bir şekilde çalışabileceği devasa bir sahte internet oluşturdu. Bu sistem, dijital bir Truman Show gibi işlev görüyor ve ajanların gerçek internet gibi davranmalarını sağlıyor.
OpenAI, yeni bir içerik yönetim sistemi hakkında yaptığı açıklamada, ‘Hugging Face’ olayından sonra, internet erişimi olmayan bir eğitim sürecinin daha sorumlu bir yaklaşım olduğunu düşündüklerini belirtti. Bu durum, OpenAI’nin, Anthropic gibi, kısmi bir hava boşluğu (air-gapping) uygulamaya başladığı anlamına geliyor. Ancak tamamen dış ağlardan izole olmanın şu anda mümkün olmadığını da vurguladı.
Sahte İnternetin İşleyişi
OpenAI, ajanlarının tarayıcı, web uygulamaları ve bilgi arama gibi özelliklere erişim sağlamasını istiyor, ancak ‘keyfi’ internet erişimini engellemeyi hedefliyor. Bu nedenle, modellerine sınırsız internet erişimi vermek yerine, indekslenmiş ve önbelleğe alınmış web içeriğinden oluşan devasa bir internet benzeri ortam yarattı. Ajanlar, daha güçlü bilgisayar sistemleri içinde daha küçük sanal makinelerde çalışıyor ve bu sistemler, ‘bir ajan kumandasından çıkıp ana makineyi kontrol etse bile, güvenliği sağlamak için tasarlandı’ şeklinde açıklanıyor.
Ajanların İletişim Sorunları
OpenAI’nin sahte internetinde, modeller yalnızca arama yapmakla kalmıyor, aynı zamanda birbirleriyle güvenli bir şekilde iletişim kurabiliyorlar. Ancak, iletişim kurma çabaları bu yıl bazı sorunlara yol açtı. Örneğin, geçen ay bildirilen Wiki Olayı, ajanların çevrimiçi iletişim kurma girişimlerinin, bir Alman mesaj panosunu nasıl etkileyebileceğini gösterdi. Bu durum, ajanların interneti hacklemeden bile web altyapısını kötüye kullanabileceğini ortaya koydu.
OpenAI, bazı red-teaming (kırmızı takım) egzersizleri ile, gelecek model olan GPT-6 Astra Cyber’ı kullanarak, modellerin zayıf noktaları bulmasını sağladı. Ajanların kumandalardan kaçıp sistemler arasında geçiş yaparak canlı internete ulaşabildiği belirtildi. OpenAI’nin sahte internetinin, ajanların bu ortamın gerçek internet olduğunu düşünmeleri için bir yanıltma içerip içermediği ise belirsizliğini koruyor. Ancak, şirketin bu güvenlik önlemini çok fazla fark ettirmemek istediği izlenimi veriliyor.
Kaynak: Gizmodo
