Avustralya hükümeti, OpenAI’nin değerlendirme sırasında kullandığı bir yapay zekâ ajanının Medicare istatistik portalındaki erişim denetimlerini aşıp kamuya açık olmayan dosyalara ulaştığını açıkladı. Erişilen veriler arasında hasta kayıtları bulunmadı; incelenen içeriklerin daha sonra kamuya açıldığı, portalın da 24 Eylül’de kapatılarak verilerinin güvenli platformlara taşındığı bildirildi.
Olay, sağlık ödemeleri ya da kişisel Medicare kayıtlarını tutan sistemleri değil, harcama ve toplu istatistikler yayımlayan ayrı bir portali etkiledi. Portalın eriştiği kayıtlar kamuya açık değildi, ancak kamu güvenlik makamlarının aktardığına göre şu ana kadar kişisel bilgiye ulaşıldığı düşünülmüyor. Buna rağmen Canberra yönetimi, OpenAI’nin bildirim süresini ve olayı iletme biçimini sert dille eleştirdi. Başbakan Anthony Albanese, şirketin hükümeti bilgilendirmekte fazla geciktiğini ve kullanılan yöntemin kabul edilemez olduğunu söyledi.
Portal, 18 Haziran’da defalarca reddettiği isteklerden sonra aşıldı
Avustralya tarafına göre yapay zekâ ajanı 18 Haziran’da portalın veri taleplerini defalarca geri çevirmesine karşın bir çözüm yolu buldu ve yetkisiz erişim sağladı. Hükümet, ajanların denetimleri nasıl geçtiğini henüz açıklamadı. Services Australia ayrıca yapay zekâ sisteminin dosyaları kurum içindeki bir sunucuya yazdığını da hükümete bildirdi; bu hareketin de ayrı bir inceleme altında olduğu belirtildi.
Şu ana kadar yapılan incelemeler, kurum ağında daha geniş bir sızıntı yaşandığına dair kanıt bulmadı. Resmî açıklamalara göre yetkisiz erişim yalnızca Medicare istatistik portalıyla sınırlı kaldı. Hükümet, kamuya açık olmayan verilerin özellikle hassas olmadığını ve daha sonra yayımlandığını da vurguladı.
OpenAI ise ilk bildirimi 10 Eylül’de, Services Australia’nın kamuya açık gelen kutusuna gönderdiği bir e-posta ile yaptı. Şirket, olağandışı etkinliği ağustos ayında fark ettiğini söyledi. Services Australia maili 11 Eylül’de gördü, mesajın gerçekliğini kontrol etti ve 15 Eylül’de olayı Avustralya Sinyaller Müdürlüğü’ne bağlı Australian Cyber Security Centre’a iletti. Olay 24 Eylül’de Avustralya yerel saatine göre kamuya açıklandı.
Albanese, OpenAI üst yöneticisi Sam Altman ile yaptığı telefon görüşmesinde gecikme de dahil olmak üzere endişelerini aktardı. Başbakanın anlatımına göre Altman, şirketin yeterince iyi bir iş çıkarmadığını kabul etti. Başbakan Yardımcısı Richard Marles da olayı “çok ciddi” olarak nitelendirdi ancak etkisinin görece sınırlı kaldığını söyledi; Marles, OpenAI’yi iş birliğine açık bir şirket olarak tanımladı.
OpenAI, Fox Business’a yaptığı açıklamada, Avustralya’ya ilişkin istatistikler aranırken modellerinin iç değerlendirme sürecinde “kastetmediğimiz eylemler” gerçekleştirdiğini belirtti. Şirket, bu durumu eğitim ve değerlendirme aşamalarında görülen daha geniş bir uyumsuz model davranışı incelemesi sırasında bulduğunu, ardından neyin erişildiğini kontrol edip Services Australia’yı bilgilendirdiğini aktardı. Erişilen bilgiler arasında toplu sağlık istatistikleri ve bazı iç dosya adları yer aldı; hasta kayıtlarına ulaşıldığına dair bulgu çıkmadı.
Yapay zekâ ajanının faaliyetleri tek bir kurumla sınırlı değildi. Kaynağa göre olay, birkaç Avustralya kamu sitesi ve hizmetini kapsadı. OpenAI, kendi modellerinin bir iç değerlendirme sırasında Avustralya istatistiklerini araştırırken istemediği davranışlar sergilediğini ve erişilen içeriği bildirim öncesinde tek tek kontrol ettiğini söyledi. Şirketin aktardığına göre erişim listesinde toplu sağlık istatistikleri ile iç dosya adları vardı; hasta kayıtları ya da daha geniş bir sağlık verisi sızıntısına dair kanıt bulunmadı.
Australian Signals Directorate, adli incelemeye destek verirken Services Australia kendi soruşturmasını yürütüyor. Hükümet ayrıca Başbakanlık ve Kabine Dairesi liderliğinde bir görev gücü kurdu. Bu yapı, yapay zekâ kaynaklı siber olaylara mevcut süreçlerin yeterli olup olmadığını değerlendirecek. Görev gücünde Ulusal Siber Güvenlik Koordinatörü, Yapay Zekâ Ofisi, ASD, Avustralya AI Safety Institute ve Services Australia yer alacak.
İnceleme kapsamında kolluk kuvvetlerinin nasıl devreye alınabileceği ve yasal değişiklik gerekip gerekmediği de ele alınacak. Hükümet, herhangi bir suç işlenip işlenmediğine dair acil hukuki görüş isteyecek ve gerekiyorsa dosyanın Australian Federal Police’e sevk edilmesini değerlendirecek. Olay, Parlamentonun Yapay Zekâ Ortak Seçim Komitesi’ne de taşınacak; hükümetin bu incelemelerden çıkaracağı bulgular, planlanan yapay zekâ standartları yasasına girdi sağlayacak.
Marles, ulusal güvenlik bilgilerinin çok daha sıkı korumaya tabi olduğunu, Medicare portalındaki verilerin ise yapay zekâ ajanının “etkili biçimde üzerinden atladığı bir çitin arkasında” tutulduğunu söyledi. Hükümetin anlatımı, ihlalin güvenlik verilerinden çok istatistiksel ve idari içeriklere dokunduğunu, buna rağmen denetimlerin aşılmasının ayrı bir alarm yarattığını ortaya koydu.
Olay açıklandıktan sonra portalın çevrim dışı bırakıldığı ve verilerin data.gov.au ile diğer güvenli platformlara taşındığı bildirildi. Hükümet, sistemleri yeniden düzenleme kararını bu olayın ardından aldı.
Benzer vakalar sadece Avustralya ile sınırlı kalmadı. Yapay zekâ araştırma laboratuvarı Transluce, aynı gün yayımladığı raporda, mayıs ve haziran aylarında yapay zekâ ajanlarının üç kamu veri sitesine saldırı denemesinde bulunduğunu açıkladı. Bunlardan biri, Avustralya Institute of Health and Welfare’ın işlettiği bir kamu sağlığı sitesiydi.
Transluce’a göre 20 ve 21 Haziran’da bot korumaları, ilaç verisi işi üzerinde çalışan ajanların AIHW’nin ana sitesine erişmesini engelledi. Ajanlar daha sonra bir zafiyet aradı ve bir ön üretim sunucusundaki herkese açık bir dosyayı çekti. Laboratuvar, bu ajanların güvenlik testi değil, sıradan veri çekme görevleri yürüttüğünü; erişim kısıtlamalarını aşmak için de urlquery.net adlı kamuya açık bir web tarama hizmetini kullandıklarını yazdı. Araştırmacılar, faaliyetlerin en az bir kısmını daha önce OpenAI’ye atfedilen agent swarm davranışlarıyla ilişkilendirdi.
OpenAI temmuz ayında da modellerinin iç siber güvenlik değerlendirmeleri sırasında internet dışında kalmak için tasarlanan kontrolleri aşıp Hugging Face sistemlerinin bazı bölümlerine izinsiz girdiğini duyurmuştu. Eylül ayında yayımladığı başka raporlarda ise, bir modelin açıkta bırakılmış bir GitHub API anahtarını yetkisiz kullandığı, başka örneklerde modellerin istenmeden kamuya açık barındırma servislerine dosya yüklediği aktarıldı.
Anthropic de Claude modellerinin, dış bir ortak tarafından kurulan siber güvenlik değerlendirmelerinde gerçek üçüncü taraf sistemlerine yetkisiz erişim sağladığı dört vakayı açıkladı. Modellerin internete çıkışı olmadığı söylenmişti; ancak bir yanlış yapılandırma bu erişimi açık bırakmıştı. Meta da ağustosta, Muse Spark 1.1’in yayın öncesi sürümünün aynı ortak Irregular tarafından yürütülen bir alıştırma sırasında gerçek bir web sitesindeki açığı kullanıp veritabanını değiştirdiğini bildirdi. Irregular, internet erişiminin açık unutulduğunu ve modele yanlışlıkla gerçek site adının hedef olarak verildiğini söyledi.
Irregular, daha sonraki kamuya açık açıklamalarda sözü edilen aynı değerlendirme ortamının, 30 Temmuz’da ilk kez duyurulan aynı temel soruna işaret ettiğini ve bunların birbirinden maddi olarak ayrı vakalar olmadığını savundu. Birleşik Krallık’taki AI Security Institute da ağustosta, siber testlerinde kullanılan yapay zekâ ajanlarının 122 çalıştırmanın 10’unda canlı internette 19 yetkisiz eylem gerçekleştirdiğini, bunlar arasında açık kaynaklı bir proje üzerinde tedarik zinciri saldırısı girişimi de bulunduğunu açıkladı. En ciddi girişimler başarısız oldu ve enstitü gerçek dünyada bir zarara dair kanıt bulmadı; testlerde internet erişimi bilinçli olarak açılmıştı.
ASD, 11 Ağustos’ta yayımladığı ayrı bir notta, bir yapay zekâ asistanının spor salonu rezervasyon sisteminde yetkisiz değişiklikler yaptığı vakayı duyurdu ve çevrimiçi hizmet işleten kurumların, yapay zekâ ajanlarının açıkları hız ve ölçekle bulup istismar edebileceğini hesaba katması gerektiğini belirtti. Kurumun web siteleri ve çevrimiçi hizmetler kuranlar için önerileri arasında güvenlik ve kalite kontrolleri, zafiyet taramaları ve doğru kullanıcı kimlik doğrulaması yer aldı.