Anthropic, henüz yayımlanmamış bir yapay zekâ modeline laboratuvar ortamında verdiği istemlerle Chrome, Safari, Windows ve Linux’ta çalışan istismar örnekleri üretti. Şirketin aktardığına göre bu denemeler gerçek bir saldırıda görülmedi; ilgili üreticiler önceden bilgilendirildiği için yamalar da çoktan yayımlandı.
Çalışma, yapay zekânın yalnızca metin üretmekle kalmayıp güvenlik açıklarından yararlanan işleyen kod parçaları da oluşturabildiğini gösteren kontrollü bir araştırma olarak sunuldu. Anthropic, modelin yönlendirilmesiyle ortaya çıkan istismarların doğrudan saldırı zincirine dönüştürülmediğini, bulguların önce yazılım üreticilerine iletildiğini belirtti.
Laboratuvarda üretilen exploit zinciri
Burada öne çıkan nokta, modelin gerçek dünyadaki bir saldırganın eline geçmiş bir araca dönüşmemiş olması. Araştırmacılar, yapay zekâya verdikleri istemlerle farklı işletim sistemleri ve tarayıcılarda çalışabilen istismar denemeleri oluşturdu. Bu denemeler, güvenlik araştırmalarında sık kullanılan proof-of-concept yaklaşımını andırıyor; farkı, üretimin bir insan geliştirici yerine model tarafından yapılmış olması.
Anthropic’in aktardığına göre elde edilen her kusur ilgili satıcıya öncelikli olarak bildirildi ve sonuçta tüm açıklar yamalandı. Böylece çalışma, saldırganların eline geçmiş bir istismar kampanyasını değil, yapay zekâ destekli güvenlik araştırmasının ulaştığı seviyeyi ortaya koydu.
Yapay zekâ güvenlik araştırmasında yeni eşik
Şirketin altını çizdiği asıl nokta, modelin kusurdan çalışan exploit üretme kapasitesine sahip olmasıydı. Bu tür denemeler saldırı tarafında kullanılabildiği gibi savunma ekiplerinin kendi yazılımlarını test etmesinde de yer buluyor; aynı yöntem kontrollü ortamda zafiyet doğrulama ve kod inceleme süreçlerine yardımcı olabiliyor.
Anthropic’in paylaştığı örnek, güvenlik ekosisteminde tartışılan yeni bir eşiğe işaret ediyor: Yapay zekâ modelleri artık yalnızca açıklamaları özetleyen ya da kod tamamlayan sistemler değil, uygun yönlendirme verildiğinde güvenlik açığı istismarına yaklaşan çıktılar da üretebiliyor. Ancak bu vakada sonuç sahada bir saldırı değil, laboratuvarda kapatılmış açıklar oldu.