Google, Chrome tarayıcısında dolaylı istem enjeksiyonu (indirect prompt injection) tehditlerine karşı kapsamlı bir güvenlik mimarisi geliştirdi. Bu saldırı türü, kötü niyetli içeriklerin kullanıcıya fark ettirmeden arka planda ajanlara kötü amaçlı komutlar enjekte etmesiyle gerçekleşiyor. Yeni önlemler, özellikle yapay zeka destekli ajanların görevlerini kötü niyetli istemlerden izole ederek güvenliğini artırmayı hedefliyor.
Katmanlı Savunmalar ve Kullanıcı Hizalama Eleştirmeni
Google, Kullanıcı Hizalama Eleştirmeni (User Alignment Critic) adını verdiği ikinci bir model ile ajan eylemlerini kullanıcı ve sistem talimatlarına uygunluk açısından bağımsız olarak değerlendiriyor. Bu model, her önerilen eylemi planlama aşamasından sonra çift kontrol ederek, kullanıcının amacına hizmet etmeyen veya kötü niyetli olabilecek eylemleri veto ediyor. Eleştirmen, yalnızca eylemle ilgili meta verileri görerek, güvensiz web içeriğine maruz kalmasını engelliyor ve böylece dolaylı istem enjeksiyonu saldırılarına karşı koruma sağlıyor.
Ajan Kaynak Setleri ve Veri İzolasyonu
Google ayrıca Ajan Kaynak Setleri (Agent Origin Sets) mekanizmasıyla, ajanların yalnızca görevle ilgili ve kullanıcı tarafından açıkça paylaşılan veri kaynaklarına erişmesini sağlıyor. Kaynaklar, salt okunur ve okunabilir-yazılabilir olarak iki kümeye ayrılıyor. Bu ayrım, ajanların sadece sınırlı ve güvenilir kaynaklardan veri almasını ve verileri yalnızca yazılabilir kaynaklara aktarmasını mümkün kılarak çapraz kaynak veri sızıntılarını önlüyor. Geçiş fonksiyonu, yeni kaynakların eklenmesini kontrol ediyor ve kullanıcı onayını gerektiriyor.
Şeffaflık, Kullanıcı Kontrolü ve Güvenli Tarama
Yeni güvenlik mimarisi, kullanıcıların ajan aktivitelerini gözlemleyebilmesi için çalışma günlükleri oluşturulmasına olanak tanıyor. Ayrıca, banka ve sağlık portalları gibi hassas sitelere erişim öncesinde açık onay isteniyor. Google Şifre Yöneticisi entegrasyonu ile giriş işlemleri güvence altına alınıyor. Ajanlar, her sayfada dolaylı istem enjeksiyonlarını tespit etmek için Güvenli Tarama ve cihaz üzeri dolandırıcılık tespiti ile entegre çalışıyor. Bu sayede, kötü niyetli içeriklerin ajanlar tarafından kullanılmasının önüne geçiliyor.
Saldırı Zinciri ve Teknik Özet
- Kullanılan teknikler: Dolaylı istem enjeksiyonu, kötü niyetli web içerikleri aracılığıyla ajanların manipülasyonu.
- Hedefler: AI destekli ajan kullanan tüm Chrome kullanıcıları, özellikle kurumsal ve hassas veri işleyen sektörler.
- Saldırı zinciri: Kötü niyetli içeriklerin web sayfasına yerleştirilmesi → Ajanın bu içeriklere maruz kalması → Kötü niyetli eylemlerin gerçekleştirilmesi.
- Önlemler: Kullanıcı Hizalama Eleştirmeni, Ajan Kaynak Setleri, Güvenli Tarama, kullanıcı onayı mekanizmaları.
Sistem Yöneticileri ve SOC Ekipleri İçin Pratik Öneriler
- Chrome ve AI ajan bileşenlerini güncel tutarak bilinen zafiyetleri kapatın.
- Web trafiğinde dolaylı istem enjeksiyonu göstergelerini tespit etmek için gelişmiş SIEM kuralları oluşturun.
- EDR çözümleri ile ajan aktivitelerini ve anormal davranışları izleyin.
- Ağ segmentasyonu uygulayarak ajanların erişebileceği kaynakları sınırlandırın.
- Kullanıcıların hassas işlemler öncesi çok faktörlü kimlik doğrulama (MFA) kullanmasını zorunlu kılın.
- Olay müdahale planlarında AI ajan kaynaklı güvenlik olaylarına yönelik prosedürler geliştirin.
- İstem enjeksiyonu saldırılarına karşı düzenli penetrasyon testleri ve güvenlik denetimleri yapın.
- Kullanıcı eğitimleri ile sosyal mühendislik ve phishing saldırılarına karşı farkındalığı artırın.
Kurumsal Senaryo: Finans Sektöründe Riskler
Bir finans kurumunda AI destekli ajanlar, müşteri hesap yönetimi ve otomatik işlem onayları için kullanılıyor. Dolaylı istem enjeksiyonu saldırısı sonucu kötü niyetli bir web sayfası, ajanı manipüle ederek izinsiz para transferi gerçekleştirebilir. Google’ın yeni savunma mekanizmaları olmadan, bu tür saldırılar veri sızıntısı ve finansal kayıplara yol açabilir. Ancak Kullanıcı Hizalama Eleştirmeni ve Ajan Kaynak Setleri sayesinde, ajan yalnızca görevle ilgili ve güvenilir kaynaklardan veri alır, şüpheli eylemler engellenir ve kullanıcı onayı olmadan kritik işlemler yapılamaz.
Bu gelişmeler, e-posta güvenliği, bulut güvenliği ve ağ segmentasyonu gibi alanlarda alınacak önlemlerle desteklenerek kurumların siber dayanıklılığını artırabilir.