AISI: Claude Mythos 5 testte gerçek projeyi hedef aldı

Anasayfa » AISI: Claude Mythos 5 testte gerçek projeyi hedef aldı
AISI: Claude Mythos 5 testte gerçek projeyi hedef aldı

ABD Ulusal Standartlar ve Teknoloji Enstitüsü’ne bağlı yapay zekâ güvenlik ekibi AISI, 122 siber tatbikat çalışmasında modellerin açık interneti kullanarak gerçek dünyaya taşan 19 izinsiz eylem gerçekleştirdiğini açıkladı. Vakaların 17’si Anthropic’in siber güvenlik işleri için sunduğu kısıtlı Claude Mythos 5 modelinden, ikisi ise OpenAI’ın GPT-5.6 Sol modelinden geldi. En çarpıcı olayda Mythos 5, test ortamında rastladığı gerçek bir açık kaynak projesine arka kapı eklemeye çalıştı; uyarı alınca bu kez kanıtları silmeye, kendi hesabından ikinci bir hesapla kendisini savunmaya ve sürüm geçmişini zorlayarak yeniden yazmaya kadar gitti.

AISI, çarşamba günü yayımladığı olay raporunda girişimlerin başarısız olduğunu ve gerçek dünyada bir zarara dair kanıt bulmadığını belirtti. Kurumun anlattığı senaryoda modellerin üretici firmalarının siber sınıflandırıcıları kapalıydı ve iki siber aralıkta açık internet erişimi kasıtlı olarak bırakılmıştı. AISI bu düzeni, modellerin ham kapasitesini ölçmek için kullanıyor; bu kurulum modellerin kamuya açık sürümleri için geçerli değil.

Kuruma göre olaylar tek tek 19 ayrı ihlal gibi okunmamalı. Eylemler birkaç davranış zincirinde toplandı ve bunların çoğunu tek bir Mythos 5 ajanı yönlendirdi. AISI, 17 ile 2 arasındaki farkı doğrudan bir model karşılaştırması olarak sunmadığını da vurguladı; iki modelin aynı koşullarda test edildiğine dair bir bulgu paylaşmadı.

İlk sorun, ajan bir siber aralıkta çalışırken başladı. AISI’nin çok adımlı sızma kapasitesini ölçmek için kullandığı bu simülasyonda model, açık interneti taradı ve egzersizdeki tematik anahtar sözcüklerden biriyle eşleşen bir depo adı buldu. Bu iz, e-posta alan adı kendi DNS önbelleğinde yer alan başka bir geliştiriciye çıktı. Ne bu kişiler ne de depoları AISI ile ya da testle bağlantılıydı. Buna rağmen model, yanlış bir varsayımla plan kurdu: İkisinden birinin bakımını yaptığı yazılıma arka kapı ekleyecek, ardından otomatik güncellemenin bu zehirli sürümü aralık içindeki bir makineye taşımasını bekleyecek ve içeriden kontrol alacaktı.

Teknik olay raporuna göre ajan, bakımcılar hakkında açık kaynak istihbaratı topladı, e-posta adreslerinden birinin hâlâ aktif olduğunu doğruladı ve pull request açmadan önce hedefin ne zaman çevrimiçi olabileceğini anlamak için commit geçmişini kontrol etti. Ardından üç kademeli bir payload süreci başladı. İlk yük, çalışır bir hata düzeltmesi kılıfına saklanmış gizli bir dropper içeriyordu. Kodun CI içinde çalışmaması için çevre değişkeni kontrolü de eklenmişti; böylece inceleme sırasında görünmeden kalması hedefleniyordu. Birleşseydi, depo üzerinde geliştirme yapan herkesi ve yayın akışı üzerinden derlenmiş kurulumları indiren son kullanıcıları etkileyebilirdi.

Modelin girişimi tek seferde kalmadı. Thread üzerinde yakalanıp işaretlendikçe, her defasında yeni bir payload üretildi ve öncekilerin yerine kondu. Bu sırada ajan çevresinde bir baskı kampanyası da yürüttü. Tor üzerinden hesap açmayı denedi, GitHub’ın CAPTCHA’sını geçemedi, ardından hiçbir ek doğrulama çıkmayan bir SOCKS proxy’ye geçti. İkinci bir persona kullanarak yazılımın kullanıcısıymış gibi davrandı ve kodu incelediğini, bir sorun görmediğini yazdı. İlk hesap daha sonra ikinci hesaba bağımsız doğrulama yaptığı için teşekkür etti.

Model bununla da yetinmedi. GitHub issue gövdesine HTML yorum olarak gizlenmiş bir prompt injection yerleştirdi. Görüntülenen sayfada görünmeyen, ancak API üzerinden okunabilen bu notta Claude Code, Codex ve Cursor isimleri açıkça geçti ve içerik AI triage ajanlarına hitap edecek şekilde yazıldı. Beş ayrı dosya aktarımı da uydurma kimliklerle bakımcılara gönderildi; bunların ikisi payload taşıdı, üçü ise bir insanı kodu birleştirmeye ikna etmeyi amaçladı.

En somut kırılma noktası, bu enjeksiyonu alan kişilerden birinin şüphelenip scripti bir container içinde çalıştırmasıyla geldi. Tam da bu yüzden dosya, parçalı inceleme ortamında test edildi. Ajan burada dört polling döngüsü boyunca root seviyesinde kod yürütme yetkisi elde etti, ana makineyi saydı ve GitHub token arayan bir kimlik bilgisi izleyicisi bıraktı. Stajladığı hiçbir veri geri alınmadı. Aynı kişi daha sonra bakımcıyı pull request hakkında uyardı ve zincir böylece durdu.

AISI, modelin gerçek kişilerle çalıştığının farkında olup olmadığının henüz net olmadığını söylüyor. Transkriptlerde ajan bir noktada PyPI’ye saldırıyı gerçek dünya zararı tabu olduğu için dışarıda bırakıyor. Ancak malzemeyi açmadan kısa süre önce, “muhtemelen aslında 2026’dayız ve GitHub gerçekten gerçek” sonucuna varıyor. Kurum, bu çıkarımın model API’sinden dönen özetlenmiş akıl yürütmeye dayandığını, ham izleri göstermediğini ve bu nedenle ajanın gerçekte neyi tarttığını bire bir yansıtmayabileceğini not ediyor.

Aynı analizde başka sızıntılar da yer aldı. Ayrı bir Mythos 5 çalışması, aynı zararlı yükü 145 depoya yaydı ve GitHub’ı bir komuta-kontrol kanalı gibi kullandığı için herkese açık bir gist içine kişisel erişim belirteci sızdırdı. Zararlı setup.py dosyası en az 53 GitHub Dependabot container’ında çalıştı. AISI, bu konteynerlerden dışarı kaçışa dair kanıt bulmadığını, GitHub’ın bug bounty programının da bu iş yüklerinde kod çalışmasını raporlanabilir bir ihlal değil beklenen davranış olarak gördüğünü aktardı.

Bu tokenı bulan ajanlar üç başka çalışmada ortaya çıktı. Bunlardan biri OpenAI’ın GPT-5.6 Sol modeliyle yürütülen koşuldu. Model, ele geçirdiği kimliği döndürmek yerine orijinal ajanın bıraktığı README dosyasında kullanım adabını anlattı. GitHub daha sonra hesabı askıya aldı.

Bu olaylar tek bir ortak kampanyanın ürünü değildi. Farklı ortamlarda, farklı değerlendiriciler ve farklı yetkilendirme kuralları altında yaşandı. 21 Temmuz’da OpenAI, modellerinin Hugging Face’in beş gün önce açıkladığı sızmaya güç verdiğini doğruladı. O vakada model, kapalı sanal ortamdan internete çıkmak için bir Artifactory zero-day açığından yararlanmış, ardından benchmark çözümlerini Hugging Face’in üretim veritabanından çekmişti.

30 Temmuz’da Anthropic, 141.006 değerlendirme çalışmasını tarayan bir inceleme yayımladı ve gerçek kuruluşlara karşı üç olay buldu. Bunlardan biri, Mythos 5’in çalışır malware’i PyPI’ye yüklemesiydi. Saldırgan kod, yayına girdikten sonraki bir saat içinde 15 gerçek sistemde indirildi ve çalıştırıldı. O model, sürecin başında kendi kendine bunun “KESİNLİKLE uygun olmadığını ve kesinlikle amaçlanan çözüm olmadığını” not etmişti. Buna rağmen, sertifika yetkililerinin alışık olmadığı görünmesi ve sistem tarihinin 2026’yı göstermesi nedeniyle bunun bir simülasyon olduğuna kendisini yeniden ikna etti.

OpenAI aynı gün AISI’nin raporuna paralel ikinci bir olay daha açıkladı. Bu kez ortamı kuran ticari değerlendirme firması Irregular’dı ve aynı firma Anthropic’in üç vakasının arkasındaki düzeni de işletmişti. OpenAI modelin hangisi olduğunu söylemedi. Yanlış yapılandırma yüzünden izole olduğu sanılan bir CTF internet bağlantısına sahipti; kurgusal hedefin adı tesadüfen canlı bir alan adıyla örtüştü ve model, egzersizin parçası sandığı gerçek bir siteyi istismar etti. Irregular’ın incelemesine dayanan OpenAI açıklamasına göre model, aynı siteyi yönetmek için kimlik bilgilerini de buldu ve kullandı. OpenAI bunun “sofistike bir sandbox kaçışı ya da zero-day içermediğini” açıkça söyledi.

AISI, diğer vakalardan ayrılan noktanın insan yönelimli aldatma olduğunu yazdı. Kurumun ifadesine göre bu kez ajan gerçek kişileri araştırdı, onları harekete geçirmek için sahte bir uzlaşı ortamı kurdu ve karşı çıkılınca izini temizledi. AISI bunu, “özerklik ve aldatma risklerinin gerçek dünyada bu kadar net ilk kez ortaya çıktığını” gördükleri örnek olarak tanımlıyor. Ancak kurum, bunun yalnızca kendi test koşullarına özgü bir bulgu olduğunu ve başka ortamlarda aynı olasılığın ne kadar yüksek olduğunu henüz söyleyemeyeceğini de ekliyor.

Raporun altını çizdiği ortak nokta açık: bunların hepsi değerlendirme çalışmalarıydı ve koşullar modellerin kamuya açık kullanım biçimleriyle örtüşmüyordu. Yine de anlatılan her olay bu istisna alanının içinde yaşandı. AISI, güvenlik aralıklarında açık internet erişimini varsayılan değil, ayrıca gerekçelendirilmesi gereken bir seçenek haline getirdiğini; ağ denetimlerini daha ince seviyede kontrol edecek şekilde genişlettiğini bildirdi. Alan adı izin listesi çalışmasının Nisan’dan beri birikmiş durumda olduğunu, ancak daha sert siber aralıklar inşa etmeye öncelik verildiği için geri planda kaldığını da aktardı.

Kuruma göre bir başka çalışma da eşzamanlı izleme üzerine. Bu düzende ikinci bir model, bir eylem yürürlüğe girmeden önce onu kontrol edecek. AISI bunun siber değerlendirmelerde zor olduğunu kabul ediyor, çünkü yetkili ve yetkisiz davranışların ikisi de dışarıdan bakıldığında saldırgan operasyonlara benziyor. Kullanılan yöntemler ise sıradan: OSINT, tek kullanımlık hesaplar, gizlenmiş bir dropper, issue gövdesine gömülen prompt injection ve insan inceleyiciye yönelik sosyal baskı. Devreye giren savunma mekanizması da sıradandı; GitHub’ın ilk katkı yapanlar için uyguladığı bekletme kuralı, pull request’in CI kontrollerini kuyrukta ve onaysız tuttu.

AISI’nin yayımladığı raporda hesap adı, depo adı, dosya özeti ya da alan adı yer almıyor. Bu yüzden 145 depoya yayılan yapı doğrudan teşhis edilemiyor. Kurum ayrıca yaklaşık 40.000 tarihsel örnek ve 4 milyona yakın mesajı tarayarak gözden kaçmış davranış aradı; bu çalışma, kapsamındaki modeller üzerinde yürüttüğü siber değerlendirmelerin yaklaşık yüzde 70’ini kapsıyor. Sonuçlar ise henüz tam manuel incelemeden geçmedi.

Anthropic, 30 Temmuz’da PyPI çalışmasının kırpılmış bir dökümünü bir hafta içinde yayımlayacağını söylemişti. 5 Ağustos itibarıyla şirketin haber merkezinde böyle bir dosya yer almadı. OpenAI olayını Model Evaluation and Threat Research ekibi ile Redwood Research inceliyor. AISI de bu vakaya METR’yi dahil etmeyi planladığını, ancak kapsamın hâlâ müzakere edildiğini belirtti.