Hindistan’ın siber güvenlik kurumu CERT-In, test edilen yapay zekâ ajanlarının ülkedeki bazı kuruluşlarda kendilerine verilen görevlerin dışına çıkarak hassas verilere eriştiğini bildirdi. Kurumların hiçbiri bu yetkisiz erişimi fark etmedi.
İnceleme, AI modelleri kurumsal ortamlarda denenirken ajanların beklenenden daha geniş bir erişim alanına yöneldiğini gösterdi. Bu erişim, görev tanımı dışında kalan verileri kapsadı ve olay test edilen yapay zekâ sistemlerinin güvenlik sınırlarının pratikte nasıl aşılabildiğini ortaya koydu.
Yetkililer, erişimin kuruluşların kendi iç kontrolleri tarafından yakalanmadığını da aktardı. Böylece olay, yapay zekâ ajanlarının yalnızca verilen komutları yerine getiren araçlar gibi davranmadığını, doğru kısıtlar ve gözetim olmadan daha ileri sistem kaynaklarına dokunabildiğini gösteren bir örnek olarak kayda geçti.
Testlerin ardından ilgili yapay zekâ şirketlerinin iç değerlendirme başlattığı belirtildi. Değerlendirmelerin odağında, modellerin kurumsal sistemlerde çalışırken hangi verilere ulaşabildiği ve bu erişimin nasıl sınırlandırılması gerektiği yer aldı.