Etiket: Yapay Zekâ Güvenliği

Anasayfa » Yapay Zekâ Güvenliği
Yeni CSS saldırıları webmail savunmalarını aşıyor
Yazı

Yeni CSS saldırıları webmail savunmalarını aşıyor

PortSwigger’dan Gareth Heyes’in Black Hat USA 2026’da paylaştığı çalışma, Outlook, Gmail, Fastmail, Proton Mail, Yahoo Mail ve AOL Mail’de CSS ve HTML işlemesini kullanarak parola, token ve arayüz eylemlerinin ele geçirilebildiğini ortaya koydu. Araştırma, sahte giriş ekranlarından prompt injection zincirlerine ve tarayıcı tabanlı sızıntılara uzanan bir dizi yöntemi örnekledi.

“Ask AI” butonları LLM belleğini zehirliyor
Yazı

“Ask AI” butonları LLM belleğini zehirliyor

Araştırmacılar, bazı “Ask AI” butonlarının ChatGPT, Claude, Gemini ve Grok oturumlarına kalıcı yönlendirme komutları enjekte ettiğini ortaya çıkardı. Microsoft’un Şubat 2026’da “AI Recommendation Poisoning” adıyla sınıflandırdığı teknik, 14 sektörde 31 şirkette görülürken MITRE ATLAS’ta AML.T0080 olarak izleniyor.

Azure DevOps MCP’de gizli PR yorumu ajanı yanıltıyor
Yazı

Azure DevOps MCP’de gizli PR yorumu ajanı yanıltıyor

Microsoft’un Azure DevOps için sunduğu resmi MCP sunucusundaki açık, gizli HTML yorumları üzerinden yapay zekâ inceleme ajanlarını yanlış yönlendirebiliyor. Manifold Security, saldırının pull request açıklamalarına gömülen komutlarla başka projelerde işlem yaptırabildiğini ortaya koydu; Microsoft bunu bilinen bir yapay zekâ riski sınıfı olarak değerlendirdi.

Grok Otomasyonlar Özelliğiyle Artık Kendi Kendine Çalışıyor: Siber Güvenlik İçin Yeni Bir Risk mi?
Yazı

Grok Otomasyonlar Özelliğiyle Artık Kendi Kendine Çalışıyor: Siber Güvenlik İçin Yeni Bir Risk mi?

xAI'nin Grok asistanına eklenen "Automations" özelliği, yapay zekânın kendi kendine çalışmasını sağlıyor ancak bu pratik yenilik beraberinde yeni siber güvenlik riskleri getiriyor. Kurumlar, bu otomasyonların yetkilendirme ve veri erişim yönetimini titizlikle ele almalı.

Yazı

Otonom AI Kod İnceleyiciler, Zararlı Yazılımları Çalıştırmaya Açık Hale Geliyor

Otonom modda çalışan yapay zekâ tabanlı kod inceleyiciler, zararlı kodları tespit etmek yerine çalıştırılabilir hale geliyor. Üçüncü taraf kodların otomatik kontrolü sırasında, README dosyası üzerinden gizlenen kötü amaçlı komutlar fark edilmeden yürütülebiliyor. Bu durum, güvenlik ekipleri için yeni bir zafiyet alanı oluşturuyor.