Kategori: Yapay Zekâ Güvenliği

ENCFORGE, Langflow açığından yapay zekâ dosyalarını hedef aldı
Yazı

ENCFORGE, Langflow açığından yapay zekâ dosyalarını hedef aldı

JADEPUFFER grubunun Langflow’daki CVE-2025-3248 açığını kullanarak ENCFORGE adlı yeni bir Go fidye yazılımı dağıttığı bildirildi. Saldırı, model ağırlıkları, vektör indeksleri ve eğitim veri setlerini hedef alırken, saldırganların Docker soketi üzerinden host’a çıkış denemesi yaptığı ve veri sızdırma yeteneği olmayan bu zararlı yazılımın yalnızca şifreleme üzerine kurulduğu aktarıldı.

Hugging Face’te otonom yapay zekâ ajanı üretim sistemlerine sızdı
Yazı

Hugging Face’te otonom yapay zekâ ajanı üretim sistemlerine sızdı

Hugging Face, geçen hafta üretim altyapısını hedef alan bir sızma girişimini tespit edip müdahale ettiğini açıkladı. Şirket, saldırganın sınırlı sayıda dahili veri kümesine ve bazı servis kimlik bilgilerine eriştiğini, ancak kamuya açık modeller, Spaces ortamları ve yazılım tedarik zincirinin etkilenmediğini bildirdi. Adli incelemede ise GLM 5.2 modeli kullanıldı; şirket, saldırıda kullanılan büyük dil modelinin tam olarak netleşmediğini aktardı.

Microsoft, yapay zekâ ajanları için iki yeni güvenlik aracını açık kaynak yaptı
Yazı

Microsoft, yapay zekâ ajanları için iki yeni güvenlik aracını açık kaynak yaptı

Microsoft, yapay zekâ ajanlarının geliştirme sürecinde test edilmesi için RAMPART ve Clarity adlı iki açık kaynak araç yayımladı. Araçlar, istem enjeksiyonu, veri sızıntısı ve beklenmeyen davranış değişiklikleri gibi riskleri ürün canlıya çıkmadan önce görünür kılmayı hedefliyor. Bu yaklaşım, AI agent kullanan kurumlar için güvenliği tasarım aşamasına taşıyan önemli bir adım olarak öne çıkıyor.