Saldırının Genel Çerçevesi
Son dönemde ortaya çıkan bir güvenlik araştırması, Perplexity’nin Comet AI tarayıcısının kimlik avı dolandırıcılığına karşı savunmasız olduğunu gösterdi. Guardio tarafından gerçekleştirilen testlerde, AI tarayıcının güvenlik önlemleri dört dakikadan kısa sürede aşılabildi. Saldırı, AI tarayıcının eylemlerini açıklama eğilimini kullanarak, modelin kendi güvenlik mekanizmalarını devre dışı bırakmasına yol açıyor.
Bu yöntem, AI tarayıcının gördüklerini, düşündüklerini ve sonraki adımlarını açıkça ifade etmesi nedeniyle “Agentic Blabbering” olarak adlandırılıyor. Saldırganlar, bu açıklamaları analiz ederek kimlik avı sayfasını iteratif şekilde optimize ediyor ve AI tarayıcının şikayet etmeyi bırakıp saldırganın isteğini yerine getirmesini sağlıyor.
Saldırı Zinciri ve Teknik Detaylar
Saldırı, AI tarayıcı ile sunucu arasındaki trafiğin kesilip, bu verilerin Generative Adversarial Network (GAN) girdisi olarak kullanılmasıyla başlıyor. Böylece, kimlik avı sayfası AI tarayıcıya karşı sürekli olarak geliştiriliyor. Bu teknik, daha önce VibeScamming ve Scamlexity gibi yöntemlerle ortaya konan gizli prompt enjeksiyonlarına dayanıyor.
Özellikle “niyet çakışması” olarak adlandırılan prompt enjeksiyon yöntemi, AI ajanının güvenilmeyen web verilerinden gelen saldırgan kontrollü talimatları, zararsız kullanıcı isteğiyle aynı yürütme planında birleştirmesi ve aradaki farkı ayırt edememesi üzerine kuruludur. Bu zafiyet, AI tabanlı sistemlerde temel bir güvenlik açığı olarak kalmaya devam ediyor.
Geçen hafta Zenity Labs tarafından bildirilen iki sıfır tıklamalı saldırı, Perplexity Comet tarayıcısının toplantı davetlerine yerleştirilen dolaylı prompt enjeksiyonlarıyla yerel dosyaların dış sunucuya sızdırılmasına ve şifre yöneticisi uzantısı yüklü kullanıcıların 1Password hesaplarının ele geçirilmesine olanak tanıyor. Bu tür saldırılar, “PerplexedBrowser” adlı kampanya kapsamında değerlendiriliyor ve ilgili zafiyetler AI şirketi tarafından kapatıldı.
Hangi Sistemler Risk Altında?
Bu saldırılar, özellikle AI tarayıcıları kullanan bireysel kullanıcılar ve kurumlar için kritik riskler oluşturuyor. AI ajanlarının insan gözetimi olmadan görev yapması, saldırı yüzeyini genişletiyor ve dolandırıcılıkların doğrudan AI modeline yönelmesini sağlıyor. Böylece, aynı AI modelini kullanan tüm kullanıcılar potansiyel hedef haline geliyor.
Kurumsal ortamlarda, özellikle e-posta güvenliği, bulut güvenliği ve IAM sistemleriyle entegre çalışan AI tabanlı otomasyon araçları, bu tür prompt enjeksiyon saldırılarından etkilenebilir. Ayrıca, olay müdahale (incident response) süreçlerinde AI ajanlarının davranışlarının izlenmesi ve anormal aktivitelerin tespiti önem kazanıyor.
Siber Güvenlik Ekipleri İçin Öneriler
- AI tarayıcıların ve ajanların davranışlarını detaylı şekilde loglayarak anormal aktiviteleri tespit edin.
- Prompt enjeksiyonlarına karşı özel filtreleme ve doğrulama mekanizmaları geliştirin.
- EDR ve SIEM sistemlerinde AI tabanlı saldırı senaryolarını içeren kural setleri oluşturun.
- Çok faktörlü kimlik doğrulama (MFA) ve Zero Trust mimarilerini AI ajanlarının erişimlerinde zorunlu kılın.
- AI ajanlarının görevlerini insan gözetimiyle denetleyerek otomatik saldırı riskini azaltın.
- Güvenlik yamalarını ve AI model güncellemelerini düzenli olarak uygulayın.
- Ağ segmentasyonu ile AI ajanlarının kritik sistemlere doğrudan erişimini sınırlandırın.
- Olay müdahale planlarında AI tabanlı saldırı senaryolarını dahil edin ve tatbikatlar yapın.
Teknik Özet
- Kullanılan teknikler: Prompt enjeksiyonu, Generative Adversarial Network (GAN) tabanlı optimizasyon, niyet çakışması (intent confusion).
- Hedefler: AI tabanlı tarayıcılar ve ajanlar, özellikle Perplexity Comet AI.
- Saldırı zinciri: AI tarayıcı davranışlarının gözlemlenmesi → Kimlik avı sayfasının iteratif geliştirilmesi → AI modelinin kandırılması ve zararlı eylemlerin gerçekleştirilmesi.
- İlgili zafiyetler: Prompt enjeksiyonu, sıfır tıklamalı saldırılar, dolaylı komut enjeksiyonları.
- Önerilen savunma: Otomatik saldırı keşfi, adversarial eğitim, sistem düzeyi güvenlik önlemleri, düzenli yamalar ve insan gözetimi.