OpenAI, GPT-5.6 Sol modelini kötü niyetli prompt injection saldırılarına karşı güçlendirmek amacıyla GPT-Red adlı otomatik kırmızı takım modelini geliştirdi. GPT-Red, yapay zeka modellerine yönelik saldırıları tespit edip önleyerek, sistemlerin daha sağlam hale gelmesini sağlıyor. Bu gelişme, yapay zeka güvenliğinde yeni bir dönemin habercisi olarak görülüyor.
Villager adlı yapay zeka destekli pen test aracı, PyPI üzerinde 11.000 indirmeye ulaşarak kötüye kullanım endişelerini artırdı. Cyberspike tarafından geliştirilen araç, MCP istemcisi ve Pydantic AI platformu gibi ileri teknolojilerle entegre çalışıyor ve Kali Linux konteynerleri aracılığıyla otomatik sızma testleri gerçekleştiriyor. Araştırmacılar, Villager'ın siber saldırıların karmaşıklığını azaltarak daha geniş tehdit aktörleri tarafından kullanılabileceğine dikkat çekiyor.