Kategori: Yapay Zekâ Güvenliği

Anasayfa » Yapay Zekâ Güvenliği
Atlassian Rovo’da tek tıkla Jira ve Confluence verisi sızdırılabildi
Yazı

Atlassian Rovo’da tek tıkla Jira ve Confluence verisi sızdırılabildi

Atlassian’ın Rovo asistanında iki ayrı zafiyet bulundu: biri rovoChatPrompt parametresiyle tek tıklamada çalışan bağlantı tabanlı açık, diğeri ise içeriğe gizlenen komutlarla ilerleyen indirect prompt injection zinciri. Varonis’in bulgusu 8 Temmuz 2026’da sunucu tarafında kapatıldı; PromptArmor’un 5 Ağustos 2026’da yayımladığı zincir ise o tarihte hâlâ çalışıyordu ve web arama kapalı olsa da veri dışarı aktarabiliyordu.

“Ask AI” butonları LLM belleğini zehirliyor
Yazı

“Ask AI” butonları LLM belleğini zehirliyor

Araştırmacılar, bazı “Ask AI” butonlarının ChatGPT, Claude, Gemini ve Grok oturumlarına kalıcı yönlendirme komutları enjekte ettiğini ortaya çıkardı. Microsoft’un Şubat 2026’da “AI Recommendation Poisoning” adıyla sınıflandırdığı teknik, 14 sektörde 31 şirkette görülürken MITRE ATLAS’ta AML.T0080 olarak izleniyor.

Yazı

Google, ADK’de üç iş akışını sildi

Google, Agent Development Kit (ADK) Python deposundaki üç iş akışını kaldırdı. Pillar Security, herkese açık bir GitHub issue’sunun ayrıcalıklı kod düzeltme ajanını tetikleyebildiğini ve bunun güvenilir bot kimliği üzerinden yetki zinciri kurduğunu ortaya koydu. Şirket, issue-analyze.yml, issue-fix.yml ve pr-analyze.yml dosyalarını 9 Haziran 2026 tarihli yama ile sildi.

Yapay zekâ ajanlarında asıl risk görünürlük değil, yetkiyi sınırlandırmak
Yazı

Yapay zekâ ajanlarında asıl risk görünürlük değil, yetkiyi sınırlandırmak

Yapay zekâ ajanları kurumsal sistemlere yayılırken güvenlik ekipleri görünürlükten yaptırıma geçmek zorunda kalıyor. Kaynak metin, ajanların kimlik, amaç, sahiplik ve yetkiyle ilişkilendirilmeden yönetilemeyeceğini; OWASP ve NIST çalışmalarının da bu yönde ilerlediğini aktarıyor.

Azure DevOps MCP’de gizli PR yorumu ajanı yanıltıyor
Yazı

Azure DevOps MCP’de gizli PR yorumu ajanı yanıltıyor

Microsoft’un Azure DevOps için sunduğu resmi MCP sunucusundaki açık, gizli HTML yorumları üzerinden yapay zekâ inceleme ajanlarını yanlış yönlendirebiliyor. Manifold Security, saldırının pull request açıklamalarına gömülen komutlarla başka projelerde işlem yaptırabildiğini ortaya koydu; Microsoft bunu bilinen bir yapay zekâ riski sınıfı olarak değerlendirdi.