Şirketlerde yapay zeka kullanımı hızla yayılırken, güvenlik ve olay müdahalesi hazırlığı aynı tempoda ilerlemiyor. Yapılan son analizler, 600 üst düzey BT ve güvenlik yöneticisinin görüşüne dayanarak, kurumların önemli bir bölümünün yapay zekayı tehdit tespiti ve olay müdahalesinde aktif biçimde kullandığını, ancak çoğunun olası bir siber saldırıya karşı tam hazırlıklı olmadığını ortaya koydu.
Rapor, 2026 sonuna kadar yapay zekanın kurumsal yapılara daha da gömüleceğini gösteriyor. Buna karşın katılımcıların yüzde 73’ü, yarın ciddi bir siber saldırı yaşanması halinde kurumlarının tamamen hazır olmayacağını söylüyor. Güvenlik ekipleri için asıl sorun, araçların hızla devreye alınması ama bunları taşıyacak yönetişim, kontrol ve olay müdahalesi düzeninin aynı ölçüde olgunlaşmaması.
Yapay zeka kuruma kontrollü değil, farklı kanallardan giriyor
Kurumsal ortamlarda yapay zeka çoğu zaman tek bir resmi giriş kapısından gelmiyor. Onaylı platformlar, çalışanların kendi başına bulduğu çözümler, SaaS eklentileri, tedarikçi araçları, iç testler ve geliştirme ekiplerinin hız kazanmak için yaptığı denemeler, yapay zekayı kurumun içine taşıyan başlıca yollar arasında yer alıyor.
Bu yayılmanın etkisi, kullanılan yapay zekanın türüne göre değişiyor. Üretken yapay zeka ile ajan tabanlı yapay zeka arasında ciddi fark bulunuyor. İlk aşamada insanlar için verimlilik aracı gibi görünen sistemler, daha otonom hale geldikçe yalnızca çıktı üreten bir yazılım olmaktan çıkıyor; sistemler arasında işlem yapan, yetki kullanan ve kurumsal saldırı yüzeyini büyüten bileşenlere dönüşüyor.
Raporda, kurumların yalnızca yüzde 38’inin kapsamlı bir yapay zeka politikasına sahip olduğunu bildirdiği aktarıldı. Bu tablo, benimsemenin denetimden hızlı ilerlediğini gösteriyor. Güvenlik ekipleri de bunun sonucunda riskin kaynağını değil, etkisini sonradan yönetmek zorunda kalıyor. Aynı boşluk, gölgede kalan yapay zeka kullanımını ve yapay zeka destekli saldırıları besliyor; bu araçlar saldırganların daha gelişmiş tekniklere daha kolay ulaşmasını ve zafiyetleri daha hızlı taramasını sağlıyor.
Çalışmada, üst düzey yöneticilerin yüzde 67’sinin onaylanmamış yapay zeka araçları nedeniyle kurumlarının zaten bir ihlal yaşamış olabileceğine inandığı da kaydedildi. Araştırmacılar, en hızlı büyüyen giriş noktalarının çoğunun aktif güvenlik incelemesinden geçmeyen alanlar olduğunu belirtiyor. Kontrol dışı yapay zeka kullanımı, anlık entegrasyonlar ve fazla yetki verilmiş yapay zeka ajanları bu listenin başında geliyor.
Saldırgan tarafında da dengeler değişmiş durumda. Kullanılan taktikler temelde aynı kalsa bile, yapay zeka bu taktiklerin daha hızlı, daha büyük ölçekte ve daha yüksek otomasyonla uygulanmasını sağlıyor. İncelemeye göre bu durum, kurumsal çevrelerdeki mevcut zayıflıkların daha çabuk ve daha etkili istismar edilmesi anlamına geliyor. Sygnia’nın müdahale ekibinin incelediği yakın tarihli yapay zeka destekli saldırı da bu eğilimin örnekleri arasında anılıyor.
Asıl açık, modelden çok yaşam döngüsünde
Raporun en net mesajlarından biri, yapay zeka güvenliğinin tek bir aşamada ele alınamayacağı. Bir aracın tüm yaşam döngüsü boyunca, strateji oluşturmadan devreye almaya, operasyonlardan olay müdahalesine kadar değişen ama birbirine bağlı kontroller gerekiyor. Her aşamada öncelik aynı kalıyor: kullanımın tespiti, risk sınıflandırması, sahipliğin atanması, erişimin sınırlandırılması, kontrollerin doğrulanması ve olay senaryolarına önceden hazırlanılması.
İlk aşama olan strateji ve kullanım senaryosu tanımında, iş, teknoloji, güvenlik, hukuk, gizlilik, uyum ve risk ekipleri arasında açık yetki paylaşımı kurulması gerektiği belirtiliyor. Böylece yapay zeka kullanımı, kurumun hedefleri, risk iştahı ve düzenleyici yükümlülükleriyle uyumlu tutulabiliyor. Raporun işaret ettiği yaygın sorun ise çok daha tanıdık: Kullanım senaryosunun sahibi, onay merci, gözetim sorumlusu ve doğacak sonuçlardan kimin hesap vereceği çoğu zaman baştan belirlenmiyor.
Tasarım ve geliştirme aşamasında da benzer boşluklar öne çıkıyor. İstemlerin nasıl işlendiği, hangi verinin çekildiği, gömülerin nasıl saklandığı, vektör veritabanlarının nasıl korunduğu, model çıktılarının nasıl doğrulandığı ve sistem manipüle edilirse ne olacağı gibi sorular çoğu projede geç gündeme geliyor. Rapor, yapay zeka uygulamalarının geliştirme sürecinin hiçbir aşamasında güvenlik gereksinimleri tanımlanmadan, test edilmeden ya da doğrulanmadan üretime çıkabildiğini söylüyor.
Satın alma ve entegrasyon tarafında da risk, sözleşme imzalanmadan önce değerlendirilmeli. Bir SaaS yapay zeka platformu, üçüncü taraf model veya API üzerinden kurulmuş bir temel model arasında seçim yapılırken güvenlik etkisi, kabiliyet ve maliyet kadar önemli kabul edilmeli. Ancak rapora göre kurumlar çoğu kez yeterli güvenlik ve risk değerlendirmesi yapmadan yapay zeka yeteneklerini benimsiyor; satın alma hızı, gerekli incelemeden daha hızlı ilerliyor.
Dağıtım ve entegrasyon aşamasında güvenlik incelemesinden geçmiş bir uygulama bile yanlış yapılandırmayla devreye alınabiliyor. En sık görülen sorunlardan biri, yapay zeka sistemlerinin hassas verilere kolaylık olsun diye fazla yetkiyle bağlanması. Bu erişim, işlevin gerçekten gerektirdiğinden geniş tutulduğunda risk büyüyor.
Operasyon, izleme ve ölçeklendirme safhasında ise modeller güncellendikçe, entegrasyonlar çoğaldıkça ve kullanım alanları genişledikçe risk profili de değişiyor. Rapor, kurumların yapay zeka uygulamaları, servisleri ve entegrasyonları için güncel bir envanter tutması gerektiğini, kullanım senaryoları ile risk sınıflandırmalarının da yetenekler değiştikçe yeniden değerlendirilmesi gerektiğini vurguluyor. Buradaki temel sorun, yapay zeka benimsemesinin, onu yönetecek yönetişim ve izleme kapasitesinden daha hızlı büyümesi.
Olay müdahalesi ve kurtarma tarafında ise geleneksel planların çoğu yapay zeka senaryolarını kapsamıyor. Prompt injection, ajan ele geçirme ve üçüncü taraf model arızaları, klasik saldırılardan farklı adli inceleme, sınırlama ve koordinasyon adımları gerektiriyor. Bu nedenle rapor, mevcut IR planlarına yapay zeka özelinde prosedürler eklenmesini ve bu olayların daha geniş siber kriz yönetimi süreçleriyle ilişkilendirilmesini istiyor.
IR planları yapay zekaya göre güncelleniyor
Çalışmada, üst düzey güvenlik liderlerinin yüzde 89’unun olay müdahalesi hazırlığında ve karar alma süreçlerinde sınırlı yönetici ya da yönetim kurulu katılımını temel sorunlardan biri olarak gördüğü hatırlatılıyor. Rapora göre bunu aşmanın yolu yalnızca farkındalık değil, açık hesap verebilirlik, resmi sponsorluk ve yapay zeka güvenliğinin bir iş gereksinimi olarak tanımlanması.
Aynı rapor, güvenlik liderlerinin yüzde 75’inin hukuk ve iletişim ekiplerinin geç devreye girmesinin ya da sürece dair belirsizliğin olay anında kararları yavaşlattığını düşündüğünü aktarıyor. Bu nedenle kurumların, bir yapay zeka sisteminin kime ait olduğunu, hangi veriye eriştiğini ve gerektiğinde kim tarafından kapatılabileceğini dakikalar içinde yanıtlayabilecek bir yönetişim yapısı kurması gerektiği belirtiliyor.
Öneriler arasında kabul edilebilir kullanım politikaları, karar ve onay akışları, sistem ve risk sahipliğinin netleştirilmesi, yönetişimin mevzuat ve uyum gerekleriyle eşleştirilmesi ile bir yapay zeka risk yönetimi çerçevesi oluşturulması yer alıyor. Güvenlik ve operasyonel sınırlamalar yalnızca kural olarak değil, uygulanabilir kontrol olarak tasarlanmadığında politikaların ekipler arasında farklı yorumlandığı aktarılıyor.
İşgücü farkındalığı da teknik kontroller kadar önemli görülüyor. Rapora göre çalışanların, geliştiricilerin ve yöneticilerin rollerine uygun eğitim alması gerekiyor. Kullanıcıların onaylı, sorumlu ve yasaklı yapay zeka kullanımını bilmesi; geliştiricilerin güvenli tasarım ve geliştirme pratikleri konusunda yönlendirilmesi; veri işleme, gizlilik, çıktı ve güvenlik riskleri hakkında açık kurallar verilmesi isteniyor. Ayrıca istisna talepleri ve şüpheli kullanım bildirimi için net kanalların tanımlanması öneriliyor.
Doğrulama tarafında, yapay zeka sistemlerinin yalnızca yayına alınmadan önce değil, yaşam döngüsü boyunca test edilmesi gerektiği vurgulanıyor. Genişleyen kullanım, yeni özellikler, yeni veri kaynakları, tedarikçi güncellemeleri, model değişiklikleri ve artan erişim izinleri, altı ay önce yapılan bir incelemenin bugünkü risk profilini yansıtmamasına yol açabiliyor. Bu nedenle devreye almadan önce güvenlik duruşu değerlendirmesi, uygulama sızma testi, adversarial test, üçüncü taraf çözüm incelemesi ve erişim akışlarının doğrulanması isteniyor.
Olaylara hazırlık bölümünde ise prompt suistimali, ajan ele geçirilmesi, veri sızıntısı, güvensiz çıktılar, üçüncü taraf yapay zeka maruziyeti, izinsiz model kullanımı ve yapay zeka tarafından üretilen etkinliğin delil zincirinin bir parçası haline gelmesi gibi senaryoların mevcut IR planlarında çoğunlukla yer almadığı belirtiliyor. Bu nedenle güvenlik, gizlilik, hukuk, teknoloji, iş birimleri, model sağlayıcıları ve diğer üçüncü taraflar arasındaki koordinasyonun önceden tarif edilmesi, eskalasyon yollarının ve sorumlulukların tanımlanması, masa başı tatbikatların yapılması ve yapay zeka odaklı olay senaryolarının kriz yönetimi programına eklenmesi tavsiye ediliyor.
Raporda ayrıca, kurumların tehdit ortaya çıkana kadar beklemesinin onları zaten geride bıraktığı ifade ediliyor. Katılımcıların yüzde 65’i, sözleşme sonunda IR sağlayıcısını değiştirme ihtimallerinin yüksek olduğunu söylüyor; bunun başlıca nedeni daha proaktif hazırlık desteğine duyulan ihtiyaç olarak gösteriliyor. Çalışmada, proaktif yaklaşım için üç ana alan öne çıkarılıyor: kurumun yapay zeka siber duruşunun altyapı, uygulama, veri akışı ve istem davranışı açısından değerlendirilmesi; kapsamlı bir yapay zeka yönetişim ve kullanım çerçevesinin kurulması ya da mevcut çerçevenin gözden geçirilmesi; iç geliştirme ve dışarıdan alınan uygulamaların gerçek dünya saldırgan davranışlarına karşı test edilmesi.
Metin, yapay zeka kullanımından doğan iş değerinin alınması kadar, yönetilmeyen siber riskin sisteme taşınmasının da engellenmesi gerektiğini vurgulayarak kapanıyor. Özellikle hassas verilere erişen, kurumsal ortama bağlanan ya da kritik iş akışlarını destekleyen sistemlerde güvenlik, yönetişim ve risk yönetiminin birlikte ele alınması gerektiği belirtiliyor. Tehditler ve güvenlik çerçeveleri gelişmeye devam ederken kurumların duruşlarını, kontrollerini ve hazırlık seviyelerini düzenli aralıklarla yeniden gözden geçirmesi gerektiği de raporda yer alıyor.