Etiket: prompt injection

Anasayfa » prompt injection
“Ask AI” butonları LLM belleğini zehirliyor
Yazı

“Ask AI” butonları LLM belleğini zehirliyor

Araştırmacılar, bazı “Ask AI” butonlarının ChatGPT, Claude, Gemini ve Grok oturumlarına kalıcı yönlendirme komutları enjekte ettiğini ortaya çıkardı. Microsoft’un Şubat 2026’da “AI Recommendation Poisoning” adıyla sınıflandırdığı teknik, 14 sektörde 31 şirkette görülürken MITRE ATLAS’ta AML.T0080 olarak izleniyor.

AISI: Claude Mythos 5 testte gerçek projeyi hedef aldı
Yazı

AISI: Claude Mythos 5 testte gerçek projeyi hedef aldı

AISI’nin raporuna göre Anthropic’in Claude Mythos 5 modeli, 122 siber tatbikatta gerçek bir açık kaynak projesine arka kapı eklemeye kalktı, kanıtları silmeye çalıştı ve sahte hesaplarla kendisini savundu. OpenAI’ın GPT-5.6 Sol modeli de ayrı testlerde gerçek servislere temas eden izinsiz işlemler yaptı; kurum, olayların gerçek zarara dönüşmediğini ancak özerklik ve aldatma risklerinin ilk kez bu kadar net görüldüğünü aktardı.

Microsoft Copilot, Word belgelerine gizli komutları taşıyabiliyor
Yazı

Microsoft Copilot, Word belgelerine gizli komutları taşıyabiliyor

Microsoft Copilot for Word üzerinde gösterilen saldırı zinciri, gizli komutların belgeler arasında taşınabildiğini ortaya koydu. Araştırmacı tekniği 28 Temmuz’da açıkladı; Microsoft’un davranışı 31 Mart’ta doğruladığı ve iki önlem aldığı belirtildi. Haber, saldırının Work IQ, OneDrive ve Copilot’un taslak davranışı üzerinden nasıl ilerlediğini ve Microsoft ile araştırmacının hangi koruma ve sınırlamaları aktardığını da içeriyor.