Microsoft Copilot for Word üzerinde gösterilen saldırı zinciri, gizli komutların belgeler arasında taşınabildiğini ortaya koydu. Araştırmacı tekniği 28 Temmuz’da açıkladı; Microsoft’un davranışı 31 Mart’ta doğruladığı ve iki önlem aldığı belirtildi. Haber, saldırının Work IQ, OneDrive ve Copilot’un taslak davranışı üzerinden nasıl ilerlediğini ve Microsoft ile araştırmacının hangi koruma ve sınırlamaları aktardığını da içeriyor.
Kurumsal yapay zeka sistemlerinde otomatik değerlendirme araçlarının gerçek performansı yansıtmadığı ortaya çıktı. Şirketlerin yarısı, testleri geçen yapay zeka özelliklerinin müşteriye hatalı sonuçlar sunduğunu bildiriyor. Buna rağmen, çoğu kuruluş insan onayı olmadan otomatik üretime geçişi hızla artırıyor, ancak değerlendirme ve gözlem altyapısı henüz bu hıza yetişemiyor.
Yapay zeka ajanlarının kurumsal kullanımı hızla yayılırken, çoğu kurum gerçek çok adımlı iş akışlarını gerçekleştirebilen ajanlar yerine basit chatbot’larla yetiniyor. Platform tercihi büyük oranda modelin çekim gücüne dayanıyor ancak kontrol katmanlarının hibrit olması ve satıcı bağımlılığı korkusu ön planda. Maliyet kontrolü ve orkestrasyon olgunluğu ise henüz istenilen seviyeye ulaşmadı.
Popüler AI destekli kodlama asistanlarında tespit edilen bir symlink açığı, kötü amaçlı kodların geliştirici bilgisayarlarında kritik dosyalara erişim sağlamasına neden olabiliyor. Bazı araçlar, kullanıcıya yanlış dosya adı göstererek onay kutusunu aldatıyor ve bu durum güvenlik risklerini artırıyor. Geliştiricilerin şüpheli depolara karşı dikkatli olması ve araçları güncel tutması hayati önem taşıyor.
Yeni geliştirilen SkillCloak aracı, kötü amaçlı yapay zeka becerilerinin statik tarayıcıları aşmasını sağlıyor. Araştırmalar, bu becerilerin çalışma zamanında davranış odaklı analizlerle tespit edilmesinin daha etkili olduğunu gösteriyor. Siber güvenlik uzmanları, statik taramanın yanında dinamik davranış takibine yönelmelidir.
Kimlik yaşam döngüsü yönetimi geleneksel olarak insan çalışanların erişimlerini düzenlemek üzere tasarlandı. Yapay zeka ajanları ise bu sisteme dahil olmadığı için erişim yönetiminde önemli boşluklar ortaya çıkıyor. Kurumlar, AI ajanlarının dinamik erişimlerini yönetmek ve güvenlik açıklarını önlemek için yeni, otomatik ve davranış odaklı çözümler geliştirmeli.
ABD, dünyada erişimi yasaklanan Anthropic’in Claude Fable 5 ve Mythos 5 yapay zeka modellerinin engelini kaldırdı. Siber güvenlik açısından bu karar, yeni tehdit ve fırsatları beraberinde getiriyor.
Yapay zekanın henüz var olmayan alan adlarını uydurup, saldırganların bu alanları kaydederek güven oluşturduğu 'phantom squatting' yöntemi, yeni bir kimlik avı ve kötü amaçlı yazılım yayma aracı olarak ortaya çıktı. Bu durum, otomatik çalışan yapay zeka araçlarının yaygınlaşmasıyla birlikte savunma sürelerini kısaltıyor ve siber güvenlik ekiplerinin işini zorlaştırıyor. Uzmanlar, yapay zeka kaynaklı linklerin doğrulanmadan kullanılmaması gerektiğini vurguluyor.
Anthropic, kodlama bilmeden dosyalar üzerinde çalışan yeni yapay zeka aracı Cowork'u tanıttı. Bu özellik, kullanıcıların belirledikleri klasörlerde dosya okuma, düzenleme ve oluşturma işlemlerini gerçekleştiriyor. Güvenlik riskleri ve AI’nın kendi gelişimini hızlandırması açısından önemli bir adım olarak değerlendirilen Cowork, şimdilik macOS kullanıcıları için erişilebilir durumda.
Mastra'nın npm paketleri, ele geçirilen bir katkıda bulunan hesabı üzerinden yayımlanan zararlı 'easy-day-js' kütüphanesiyle enfekte oldu. Bu saldırı, yapay zeka ve bulut tabanlı uygulamalarda kritik kimlik bilgilerini tehlikeye atıyor. Güvenlik ekiplerinin acil müdahale ve kapsamlı analiz yapması gerekiyor.