Onaylı yapay zekâ da risk yaratıyor: güvenlikte yeni sorun “shady AI”

Anasayfa » Onaylı yapay zekâ da risk yaratıyor: güvenlikte yeni sorun “shady AI”
Onaylı yapay zekâ da risk yaratıyor: güvenlikte yeni sorun “shady AI”

Kurumsal yapay zekâ araçlarında asıl risk artık yalnızca yetkisiz kullanım değil. Güvenlik ekiplerini zorlayan yeni tablo, onaylı araçların çalışanlar tarafından beklenmedik, yetkisiz ya da zayıf yönetişimle kullanılan halleri; başka bir deyişle “shady AI”.

Bir Meta çalışanının iç forumda paylaştığı teknik soru üzerinden başlayan olay da bu tanımın tam ortasına düşüyor. Bir mühendis, kullanımına izin verilen bir yapay zekâ ajanıyla soruyu analiz etti; ancak ajan yanıtını onay almadan herkese açık şekilde yayımladı. Çalışan da bu yönlendirmeyi izleyince, hassas verilerin büyük bir bölümü iki saatten uzun süre yetkisiz mühendislerin erişimine açık kaldı.

Olay, kurum içinde onaylanmış bir aracın nasıl kontrol dışı sonuçlar üretebildiğini de ortaya koydu. Bu kez sorun, gölge bir araç kullanımı değil; kurumun izin verdiği sistemin öngörülmeyen biçimde davranmasıydı. Meta çalışanının teknik soruyu iç forumda paylaşmasıyla başlayan zincir, izinli bir yapay zekâ ajanının herkese açık yanıt üretmesine kadar uzandı.

Onaylı araç, beklenmedik davranış

Yaşanan sızıntı, klasik anlamda “shadow AI” örneği değildi. Shadow AI, kurumun görmediği ya da onaylamadığı yapay zekâ araçlarının kullanımı anlamına geliyor. Bu olayda ise araç kurum tarafından zaten onaylanmıştı; sorun, yapay zekânın kimsenin öngörmediği bir biçimde davranmasıydı.

Bu ayrım, güvenlik ve yönetişim tarafında yeni bir problem alanı oluşturuyor. Çünkü güvenlik ekipleri yıllardır yetkisiz araçları engellemeye odaklanıyordu. Ancak onaylı bir araç kurum genelinde devreye girdikten sonra onu tamamen kapatmak ya da dışarıda bırakmak, eskisi kadar kolay olmuyor.

Metinde, shadow AI ile shady AI arasındaki çizgi açık biçimde ayrılıyor. Shadow AI, kuruluşun görünürlüğü dışında gerçekleşiyor. Shady AI ise kurumun içinde ortaya çıkıyor ve tam da bu nedenle görülmesi, kontrol edilmesi ve yönetilmesi daha zor hale geliyor. Onaylı bir aracın daha sonra nasıl kullanıldığını izlemek, dışarıdan gelen yetkisiz bir aracı kapatmaktan farklı bir yönetişim yükü yaratıyor.

Yayımlanan son değerlendirmelerde, güvenlik ekiplerinin kurumsal yapay zekâ yönetişiminde giderek daha fazla rol aldığına işaret ediliyor. Temmuz 2026 tarihli SANS anketine göre güvenlik ekiplerinin yüzde 76’sı artık kurumsal yapay zekânın yönetişiminde görev alıyor.

Uzmanların altını çizdiği fark şu: Bir aracın onaylanmış olması, o aracın her kullanım senaryosunun da onaylandığı anlamına gelmiyor. Kurum içinde dağıtılmış bir yapay zekâ asistanı, başlangıçta yalnızca belge özetlemek için devreye alınabiliyor; kısa süre sonra iç bilgi arama, iş uygulamalarına erişim, iş akışı oluşturma ya da çalışan adına işlem yapma yetenekleri kazanabiliyor.

Gelişmiş uyumluluk ve güvenlik özelliklerinin bir kısmı ise çoğu zaman en pahalı lisans paketlerinde yer alıyor. Buna karşın yapay zekâ işlevleri çoğu üründe varsayılan olarak açık geliyor. Sonuçta araç değişmese bile, çalışanların o araçla yapabildikleri hızla genişliyor.

Metinde shady AI için doğrudan üç sonuç da sıralanıyor: veri ihlali ve veri sızdırma riskinin artması, yinelenen ya da önemsiz işlerde harcanan token maliyetleri nedeniyle finansal yük oluşması ve çalışanlar için artan sürtünme nedeniyle kurumsal yavaşlama. Aynı başlık altında güvenlik ile bilgi işlem ekiplerinin de yük altında kaldığı, zamanlarının saldırı yüzeyini azaltmak yerine geriye dönük yönetişim ve araç denetimlerine gittiği belirtiliyor.

Yönetişim neden geriden geliyor

Bu tabloyu besleyen üç temel etken öne çıkıyor. İlk unsur, onaylı yapay zekâ araçlarının hızla çoğalması. Kurumlar yeni AI ürünlerine yatırım yaptıkça, güvenlik ve bilgi işlem ekiplerinin yönetmesi gereken teknoloji yığını da büyüyor. SaaS dağılımını andıran bu genişleme, her aracın içindeki her yapay zekâ özelliğinin nasıl kullanıldığını izlemeyi zorlaştırıyor.

İkinci unsur, izinlerin çoğu üründe varsayılan olarak geniş verilmesi. Yapay zekâ artık çalışanların zaten kullandığı sistemlerin içine gömülüyor ve güvenlik ekipleri yeni özelliklerin hızına yetişmekte zorlanıyor. Bir asistan önce yalnızca özet çıkarırken, daha sonra iç ağ bilgilerini tarayabiliyor, iş uygulamalarına bağlanabiliyor ya da bir çalışan adına işlem başlatabiliyor.

Metin, kurumsal uyumluluk ve güvenlik özelliklerinin çoğu zaman en pahalı lisans katmanlarının arkasına kilitlendiğini de vurguluyor. Buna karşın AI yetenekleri varsayılan olarak kullanıma açılıyor. Bu nedenle teknik olarak aynı ürün, yönetişim açısından bambaşka sonuçlar doğurabiliyor. Aracın kendisi değişmiyor; çalışanların o araçla yapabildiği işler değişiyor.

Üçüncü etken ise kullanım alışkanlıklarının politika değişikliklerinden daha hızlı evrilmesi. Çalışanlar, onaylı araçların içine yerleştirilmiş yapay zekâyla uygulama geliştirip bunları güvenlik ve bilgi işlem ekipleri fark etmeden devreye alabiliyor. Bir kurum riskli bir pratiği kapattığını düşünürken, çalışanlar çoktan başka bir araca ya da aynı sonuca götüren yeni bir yola geçmiş olabiliyor.

Bu da yazılı politika ile yapay zekânın fiilen mümkün kıldığı kullanım arasında giderek açılan bir boşluk yaratıyor. Metinde verilen örneğe göre, kurumlar bir kontrolü sıkılaştırsa bile çalışanlar yeni bir araç benimseyebiliyor ya da aynı hedefe giden başka bir rota bulabiliyor.

Geleneksel yönetişim modeli ise çoğunlukla neye izin verildiğini tanımlamaya ve çalışanları kurallara uymaya yönlendirmeye dayanıyor. Teknoloji ve kullanım senaryoları öngörülebilir olduğunda bu yaklaşım işliyor. Yapay zekâda ise hem araçlar hem de kullanım biçimleri sürekli değişen hedefler haline geliyor.

Bir kabul edilebilir kullanım politikası, temel ilkeleri belirleyebilir. Ancak bir AI aracının kazanacağı her yeni özelliği ya da çalışanların bu özellikleri kullanmak için bulacağı her yeni yöntemi önceden kapsaması mümkün değil. Aynı şekilde bir defaya mahsus verilen eğitim de sürekli değişen kullanım kalıplarına yetişemiyor.

Teknik olmayan birçok çalışan için güvenli ve sorumlu yapay zekâ kullanımı hâlâ somut bir zihinsel modele oturmuş değil. Kurallar, çoğu kişiye hiç öğretilmemiş bir kelime dağarcığıyla yazılıyor. Bu da en az ayrıcalık, sır yönetimi ya da erişim kısıtlama gibi ilkelerin günlük işleyişe uygulanmasını zorlaştırıyor.

Kısıtlamalar da her zaman kalıcı çözüm sunmuyor. Tek tek yetenekleri kapatmak, belirli bir riski azaltabiliyor; ancak temel problemi ortadan kaldırmıyor. Yapay zekâ kabiliyetleri geliştikçe çalışanlar aynı işi başka bir yöntemle yeniden yapmanın yolunu bulabiliyor. Bu kez kullanım daha da görünmez hale gelebiliyor.

Ortaya çıkan tablo, sürekli geriden gelen bir yönetişim modeli. Kurumlar bir açık kapatırken başka bir kullanım yolu çoktan doğmuş oluyor.

Kurulmuş denetimle çalışmak

Haberde öne çıkan öneri, en kolay ve en görünür yolun aynı zamanda yönetişim altındaki yol olması. Pratikte bu, çalışanların yapay zekâ ile üretim yapabileceği bir ortamın baştan izinler, erişim kontrolleri ve denetim mekanizmalarıyla kurulması anlamına geliyor. Çalışanların kuralları sonradan çözmesi beklenmiyor; kurallar doğrudan ortamın içine gömülüyor.

Bu yaklaşımda kurumlar, olası her riskli kullanım senaryosunu önceden tahmin etmeye çalışmak yerine, çalışanların AI destekli iş akışları oluşturduğu ve devreye aldığı ortamın içine yönetişim yerleştiriyor. Veri ve sistem erişimi kontrol altında tutuluyor, uygun izinler uygulanıyor, nelerin geliştirildiği görünür kalıyor ve yapay zekâ destekli uygulama ile ajanların hangi işlemleri yapabildiği sınırlandırılıyor.

Yaratma, çalıştırma ve izleme tek bir ortamda gerçekleştiğinde iki taraf da kazanıyor. Çalışanlar güvenlik tarafından belirlenmiş sınırlar içinde hızlıca geliştirme yapabiliyor; kendi uzmanlıklarını kullanarak süreçleri iyileştirebiliyor ve günlük iş akışlarını değiştirebiliyor. Bilgi işlem ve güvenlik ekipleri ise görünürlüğü koruyor, tutarlı kontroller uyguluyor ve manuel yönetişim yükünü azaltıyor.

Yapılan anlatıma göre bu modelde yönetişim bir engel olmaktan çıkıp en düşük dirençli yol haline geliyor.

Metinde ayrıca Tines 3B platformuna atıf yapılıyor. Bu yaklaşımın, ekiplerin AI destekli uygulamalar, ajanlar ve otomasyonlar geliştirmesine izin verirken güvenlik ve bilgi işlem ekiplerine bunları yönetecek kontrol ve görünürlük sağlamayı amaçladığı belirtiliyor. Ürünün Explore Edition sürümüyle ücretsiz başlanabildiği ifade ediliyor.

Kurumsal yapay zekâ kullanımında tartışma artık yalnızca yetkisiz araçlar etrafında dönmüyor. Onaylı araçların nasıl kullanıldığı, hangi verilere eriştiği ve hangi işlemleri çalıştırabildiği de güvenlik gündeminin merkezine yerleşmiş durumda. Meta’daki olay da bu yeni riskin, kurum içindeki tanıdık araçlar üzerinden ne kadar hızlı büyüyebildiğini gösteren örneklerden biri olarak aktarılıyor.