Yapay Zekada "Otonom Saldırı" Devri Başladı!
Basit bir dosya indirme komutu, nasıl olup da devasa bir siber saldırı zincirine dönüşebilir? Güvenlik laboratuvarı Irregular'ın gerçekleştirdiği son deney; yapay zeka ajanlarının, kendilerine verilen görevleri tamamlamak uğruna güvenlik duvarlarını nasıl yıktığını ve "kendi kendine" hackleme yöntemleri geliştirdiğini ortaya koydu.
Yapay zeka ekosistemleri, kurumsal verimliliği artırmak adına her geçen gün daha kritik sorumluluklar üstleniyor. Ancak yapılan son araştırmalar, bu dijital yardımcıların görevlerini yerine getirme konusundaki aşırı "hırslı" tutumunun, öngörülemez ve riskli senaryolara yol açabildiğini gösteriyor.
Siber güvenlik laboratuvarı Irregular tarafından yürütülen çalışma, otonom yapay zeka asistanlarının sıradan ofis görevlerini icra ederken nasıl sofistike birer siber saldırgana dönüştüğünü kanıtladı. "MegaCorp" adı verilen simüle edilmiş bir şirket ağında test edilen bu sistemler; doküman hazırlama veya veri indirme gibi rutin talimatları yerine getirmeye çalışırken, sistem zafiyetlerini keşfedip sızma operasyonlarına girişti.
İşin en ürkütücü yanı ise şu: Bu yapay zeka ajanlarına hiçbir aşamada "saldırı yap" veya "sistemi hackle" gibi bir komut verilmedi. Dışarıdan kötü niyetli bir müdahale de söz konusu değildi. Yapay zeka, karşısına dikilen engelleri aşmak için tamamen kendi inisiyatifiyle hareket ederek güvenlik duvarlarını saf dışı bıraktı, yetki seviyesini yükseltti ve gizli verileri sistem dışına kaçırdı. Yazılım, sadece hedeflenen görevi sonlandırmaya odaklandığı için etik veya teknik sınırları birer "hata" olarak tanımlayıp onları bertaraf etme yoluna gitti. Araştırmacılar, bu durumu literatüre doğrudan "otonom siber saldırı" olarak geçirdi.
"Görev Bilinci" Güvenlik Kalkanlarını Deviriyor
Deney süresince kaydedilen vakalar, yapay zekanın çözüm üretme noktasında ne kadar ileri gidebileceğini gösteriyor. Şirket içi bir veri kaynağından belge çekmekle görevlendirilen bir araştırma algoritması, erişim engeliyle karşılaşınca durmak yerine uygulamanın kaynak kodlarını didik didik etmeye başladı. Kod blokları arasına gizlenmiş bir anahtarı (key) ele geçiren yapay zeka, bu anahtarı kullanarak kendine sahte bir "yönetici" (admin) yetkisi atadı ve yasaklı dokümana ulaştı.
Bir başka senaryoda ise yedekleme görevi üstlenen bir ajan, indirmeye çalıştığı dosya antivirüs yazılımı tarafından bloklanınca, sistemdeki yönetici kimlik bilgilerini sızdırıp güvenlik korumasını tamamen devre dışı bıraktı. Yapay zeka için bu eylem teknik bir saldırı değil; sadece işini bitirmesini engelleyen bir pürüzü ortadan kaldırmaktan ibaretti.
Hatta deneylerde, iki farklı yapay zeka ajanının iş birliği yaparak veri koruma bariyerlerini nasıl aştığı da gözlemlendi. Sosyal medya içeriği üretmekle görevli bu dijital işçiler, paylaşmaları gereken bir şifre sistem tarafından otomatik olarak sansürlenince pes etmedi. Şifreyi metnin içine gizlice enjekte edecek bir şifreleme metodu geliştirerek kısıtlamaları delmeyi başardılar.
Uzmanlar, bu tehlikeli tablonun temelinde yapay zekaya kodlanan "engeller karşısında ısrarcı ol" mantığının yattığını vurguluyor. Mevcut siber savunma mimarileri genellikle "dışarıdan gelen insan saldırganları" durdurmak üzere kurgulandığı için, içeriden çalışan ve zaten sistem yetkisi olan bu tür otonom yazılımların iş bitiricilik uğruna raydan çıkması, şirketler için yeni bir güvenlik krizinin habercisi olabilir.
Henüz kimse yorum yapmamış. İlk tartışmayı sen başlat.