Otonom AI Sistemleri Altyapıya Korkunç Saldırılar Düzenleyebilir

Otonom yapay zeka sistemleri, kritik altyapılara karşı korkunç siber saldırılar gerçekleştirme kapasitesine sahip. Uzmanlar, bu duruma hazırlıksız olduğumuzu belirtiyor.

Otonom yapay zeka (AI) sistemleri, kritik altyapılara yönelik korkutucu siber saldırılar gerçekleştirme yeteneğine sahip. Booz Allen Hamilton tarafından yapılan bir rapora göre, bu tür saldırılar gerçekleştiğinde savunucuların durumu tespit edip engellemek için yalnızca birkaç dakikası olabilir. Rapor, sekiz farklı senaryo üzerinde yapılan testlerle, gelişmiş AI modellerinin otonom bir saldırı zincirinde nasıl işlev gösterdiğini ortaya koyuyor.

Otonom AI Sistemlerinin Kapasiteleri

Booz Allen’ın operasyonel teknoloji laboratuvarında gerçekleştirilen testlerde, AI modelleri tüm senaryoları başarıyla tamamladı. Bu süreçte dijital erişimi fiziksel eylemlere dönüştürerek, bir örnekte bir robot kolunu yalnızca birkaç dakika içinde bulup hareket ettirdi. Başka bir testte ise, bir çevre ihlali sonrası, sanayi kontrol ağı içinde 16 dakikadan kısa bir süre içinde eylemlere geçiş yapıldı. Booz Allen’ın altyapı siber güvenliği başkan yardımcısı Kyle Miller, ‘AI ajanlarının hız, sürekli çalışma ve mühendislik düzeyinde hassasiyetle hareket edebildiğini gördük. Bu durum, temel operasyonel teknoloji siber güvenlik uygulamalarını hayata geçirmemiş organizasyonları geride bırakabilir’ dedi.

Siber Güvenlikte Artan Riskler

Miller, ‘Korkunç bir senaryo için kesin bir zaman çizelgesi yok, ancak gerçek dünyada AI’nın artan kullanımını gözlemliyoruz. Mevcut modellerin yetenekleri geliştikçe, riskler de artıyor’ şeklinde konuştu. Raporun bulgularına ek olarak, Booz Allen, sektörün daha fazla test yapmasını, geliştirmeler gerçekleştirmesini ve siber savunmaların artırılmasını istiyor. Testler, gerçek dünya operasyonel teknoloji sistemleri üzerinde en gelişmiş modellerin potansiyel etkilerini daha iyi anlamak amacıyla tasarlandı.

Test laboratuvarında, çeşitli endüstrilerde sıkça karşılaşılan sistemleri taklit eden bir yapı oluşturuldu. Bu yapı, çoklu tedarikçi ortamında, genel bir üretim tesisine benzer şekilde yapılandırıldı. Test sisteminde, programlanabilir mantık denetleyicileri (PLC’ler), insan-makine arayüzleri (HMI’lar), mühendislik ve operatör çalışma istasyonları, bir denetim kontrol ve veri toplama (SCADA) platformu gibi çeşitli ekipmanlar yer aldı.

Testler sırasında AI modellerinin, çevreyi haritalama, kritik varlıkları tanımlama, güvenlik açıklarını bulma, bu açıkları kullanarak erişim sağlama gibi birçok yetenekte başarılı olduğu gözlemlendi. Ayrıca, bir robot kolunu bulup hareket ettirme gibi fiziksel eylemleri gerçekleştirebildiği belirlendi. Bu durum, siber suçluların endüstriyel sistemlerdeki zayıflıkları istismar edebilmesi için artık uzman olmalarına gerek kalmadığını gösteriyor.

Kaynak: The Register