Microsoft, yapay zekâ ajanlarının geliştirme sürecinde test edilmesi için RAMPART ve Clarity adlı iki açık kaynak araç yayımladı. Araçlar, istem enjeksiyonu, veri sızıntısı ve beklenmeyen davranış değişiklikleri gibi riskleri ürün canlıya çıkmadan önce görünür kılmayı hedefliyor. Bu yaklaşım, AI agent kullanan kurumlar için güvenliği tasarım aşamasına taşıyan önemli bir adım olarak öne çıkıyor.
GitHub Codespaces ortamında ortaya çıkan RoguePilot adlı güvenlik açığı, kötü niyetli aktörlerin Copilot aracılığıyla GITHUB_TOKEN gibi hassas bilgileri sızdırmasına imkan tanıyor. Bu yapay zeka destekli saldırı, GitHub sorunlarına gizlenen zararlı istemlerle otomatik kod yürütülmesini tetikleyerek özellikle geliştirici iş akışlarını hedef alıyor.
Google Takvim'in Gemini yapay zeka sohbet botunda keşfedilen istem enjeksiyonu açığı, kötü niyetli takvim davetleri aracılığıyla özel toplantı verilerinin sızmasına yol açtı. Bu zafiyet, YZ tabanlı sistemlerin güvenlik yüzeyini genişlettiğini ve kurumsal ortamlarda yeni riskler oluşturduğunu gösteriyor.
Tenable tarafından GPT-4o ve GPT-5 modellerinde tespit edilen yedi istem enjeksiyonu zafiyeti, yapay zeka sistemlerinin dolaylı saldırılara karşı savunmasız olduğunu gösteriyor. Bu zafiyetler, LLM'lerin davranışlarını manipüle ederek kötü niyetli komutların yürütülmesine olanak tanıyor ve benzer teknikler diğer AI sistemlerinde de görülüyor. Araştırmalar, eğitim verilerindeki küçük bir zehirli belge setinin bile model davranışını değiştirebileceğini ortaya koyuyor.
Perplexity'nin Comet AI tarayıcısı, CometJacking adlı bir saldırı yöntemiyle tek tıkla veri hırsızlığına maruz kalabiliyor. Bu saldırı, kötü niyetli URL'ler aracılığıyla AI ajanının e-posta ve takvim verilerini gizlice sızdırmasını sağlıyor. Kurumsal güvenlik açısından AI tabanlı tarayıcıların yeni tehditlere karşı korunması kritik önem taşıyor.