OpenAI’nin akıl yürütme modellerinde, yanıt üretmeden önce işlenen iç düşünce zincirinin dışarı sızmasını engelleyen koruma mekanizmasını araştırmacılar aştı. Normalde erişim şifrelenmiş bir ara öğe üzerinden sınırlandırılıyor; incelenen yöntem ise bu katmanı devre dışı bıraktı.
Şifreli ara çıktı engeli aşıldı
OpenAI’nin reasoning modelleri, bir soruya yanıt vermeden önce problemi içeride adım adım çözüyor. Kullanıcı bu ham muhakeme zincirini doğrudan görmüyor; servis onu okunamayan şifreli bir öğe olarak geri gönderiyor. Araştırmacıların ortaya koyduğu yöntem tam da bu gizli katmanı hedef aldı ve sistemin koruma sınırını aşmayı mümkün kıldı.
Bulgu, modelin iç muhakemesine erişimi kısıtlamak için kullanılan tasarımın sınırlarını yeniden gündeme getirdi. Şirketin servis tarafında devreye aldığı koruma, yanıtın nasıl üretildiğini görünmez kılmayı amaçlıyordu. Araştırmacılar ise kompaksiyon olarak anılan akışta bu gizliliğin delinmesine yol açan bir boşluk buldu.
Araştırmacılar yöntemi nasıl kullandı
Kayda geçen bulgular, modelin gizli düşünce çıktısının kullanıcıya kapalı tutulmasına rağmen belirli koşullarda bu katmanın atlatılabildiğini gösteriyor. Teknik ayrıntılar sınırlı olsa da, yöntem doğrudan şifrelenmiş ara öğenin korunmasını hedefleyen yapıyı bozuyor. Böylece modelin normalde dışarı vermemesi gereken iç muhakeme parçaları erişilebilir hale geliyor.
Bu açığın pratik etkisi, yalnızca gizli akıl yürütmenin görünür olmasıyla sınırlı kalmıyor. Model davranışının iç katmanlarına erişim, güvenlik sınırlarının ve ürün tasarımının nasıl ele alınması gerektiğine dair yeni soruları beraberinde getiriyor. OpenAI tarafında konuyla ilgili teknik düzeltme ya da takvime bağlanan bir açıklama yer almadı.
Gizlilik tasarımındaki risk yeniden gündemde
Olay, üretken yapay zekâ sistemlerinde yalnızca yanıt kalitesinin değil, yanıtın nasıl üretildiğinin de bir güvenlik konusu olduğunu bir kez daha ortaya koydu. Özellikle akıl yürütme modlarında kullanılan gizleme ve şifreleme katmanları, saldırı yüzeyi yaratabiliyor. Araştırmacıların bulgusu, bu alandaki korumaların beklenenden daha kırılgan olabileceğini gösterdi.