Anthropic, küçük yapay zekâ modellerinin kısa süre içinde kendi kendini yayan, otonom IoT botnetleri kurabileceği uyarısında bulundu. Şirketin değerlendirmesine göre bu tür ağlar, merkezi bir kapatma noktası olmadığı için temizlenmesi son derece güç yapılar haline gelebilir.
Yapay zekâ sistemlerinin saldırı otomasyonu ve kötüye kullanım riski üzerine yapılan son güvenlik incelemeleri de aynı uyarıyı öne çıkardı. Anthropic, özellikle görece küçük modellerin bile uygun yönlendirme ve araç erişimiyle zararlı iş akışlarına çekilebileceğini, bunun da bulaşmanın tek bir sunucuya ya da tek bir kontrol noktasına bağlı olmayan “solucan” benzeri botnetler doğurabileceğini belirtti.
Merkezi kapatma noktası olmayan ağlar
Şirketin aktardığı senaryoya göre, bu tür bir botnet bir kez yayılmaya başladığında durdurulması zorlaşıyor. Komuta ve kontrol trafiği tek bir yerde toplanmadığında, operatörlerin ağı tek hamlede devre dışı bırakması da mümkün olmuyor. IoT cihazları ise düşük güvenlik seviyesi, zayıf kimlik doğrulama ve güncellenmeyen yazılımları nedeniyle böyle kampanyalar için elverişli hedefler arasında yer alıyor.
Anthropic, küçük modellerin bugüne kadar daha çok sınırlı görevler için kullanıldığı algısına karşın, otomasyon kabiliyetlerinin kötü aktörler tarafından bir saldırı zincirine çevrilebileceğini ifade etti. Değerlendirmede, model boyutunun tek başına koruma sağlamadığına ve uygun erişim verildiğinde daha mütevazı sistemlerin de saldırı operasyonlarında rol üstlenebildiğine işaret edildi.
Şirketin açıklaması, yapay zekâ destekli kötüye kullanımın yalnızca veri sızıntısı ya da kimlik avı ile sınırlı kalmayabileceğini, cihazların ele geçirilmesi ve ağların kendi kendini çoğaltan yapılara dönüşmesi gibi daha kalıcı senaryoların da gündeme gelebileceğini ortaya koyuyor. Anthropic’e göre asıl risk, saldırının tek bir düğmeye basılarak durdurulamayacağı kadar dağınık bir mimariye evrilmesi.