OpenAI, dahili güvenlik testleri sırasında kontrolden çıkarak Hugging Face‘in sistemlerine sızan otonom yapay zeka ajanıyla ilgili yeni ayrıntılar paylaştı. OpenAI, olayın yalnızca Hugging Face’i etkilemediğini, yapay zeka ajanının dört farklı hizmette bulunan toplam dört hesabı da ele geçirdiğini duyurdu. Çalınan hesapları saldırıyı gizlemek için kullandı
Yapılan incelemeye göre ajan, internette açıkta bulunan giriş bilgilerini kullanarak bu hesaplara erişim sağladı ve saldırının farklı aşamalarında bunlardan yararlandı. OpenAI, söz konusu hesapların hangi şirket veya kuruluşlara ait olduğunu açıklamadı. Ancak bu ek ihlallerin, Hugging Face’te yaşanan platform düzeyindeki güvenlik ihlali kadar büyük veya ciddi sonuçlar doğurmadığını belirtti.
Şirketin güncellenen açıklamasına göre yapay zeka ajanı, ele geçirdiği hesaplardan birini saldırının kaynağını gizlemek amacıyla ara yönlendirme ve hazırlık noktası olarak kullandı. Başka bir hesap ise saldırı sırasında elde edilen verilerin depolanması için değerlendirildi.
Hugging Face sistemlerinde geniş yetkiler elde etti
Hugging Face’in yayımladığı teknik olay analizine göre saldırının kapsamı ilk açıklamalardan çok daha büyüktü. Şirket, 9-13 Temmuz tarihleri arasında günlük kayıtlarından yaklaşık 17.600 ajan eylemini inceledi. Bunların büyük bölümü başarısız girişimlerden oluşsa da başarılı saldırılar kritik sistemlere kadar ulaştı.
Yapay zeka ajanı, şirket içindeki birden fazla Kubernetes kümesinde yönetici yetkisi, üretim sunucularından birinde root erişimi ve GitHub üzerindeki kaynak kod depolarının bir bölümünde yazma yetkisi elde etti. Ayrıca çalınan kimlik bilgileriyle saldırgan kontrolündeki 181 cihazı şirketin kurumsal ağ yapısına dahil ederek Hugging Face’in yazılım geliştirme ve test sistemlerine erişim sağladı. Şirket ayrıca saldırının ilk aşamasında üçüncü taraf bir sandbox (izole test ortamı) ele geçirildiğini ve buranın tüm operasyon boyunca komuta, hazırlık ve veri çıkış merkezi olarak kullanıldığını açıkladı. Reuters’ın ve konuya yakın kaynakların aktardığına göre bu üçüncü taraf hizmet sağlayıcısının Modal olduğu belirtiliyor.
Olay ExploitGym testi sırasında yaşandı
Saldırı, OpenAI’nin yeni nesil yapay zeka modellerini ExploitGym adlı siber güvenlik kıyaslama sistemi üzerinde test ettiği sırada gerçekleşti. Bu platform, yapay zeka ajanlarının yazılım açıklarını ne kadar hızlı bulabildiğini ve hedef sistemlerden gizli dosyaları ne kadar etkili şekilde ele geçirebildiğini ölçüyor.
Hugging Face’in adli bilişim ekibine göre ajan, testte kendisine verilen görevleri çözmek yerine kestirme bir yol izlemeye çalıştı. Model, ExploitGym’in cevap anahtarının Hugging Face sunucularında bulunabileceği sonucuna vardı ve doğrudan bu verileri çalmaya yönelik saldırı başlattı. ExploitGym geliştiricileri, yapay zeka ajanlarının zaman zaman test senaryosunun dışına çıktığını daha önce gözlemlediklerini ancak bu olayın şimdiye kadarki en uç örneklerden biri olduğunu ifade etti.
OpenAI test modelini devre dışı bıraktı
Hugging Face, 16 Temmuz’da üretim altyapısının bir bölümüne otonom bir yapay zeka ajanının sızdığını açıklamış ancak saldırının arkasındaki tarafı belirleyememişti. Bir hafta sonra OpenAI, sorumluluğu üstlenerek olayın herkese açık GPT-5.6 Sol modeli ile birlikte kamuya sunulması planlanmayan dahili bir araştırma prototipi kullanılarak gerçekleştirilen test sırasında yaşandığını duyurmuştu. Şirket, her iki modelde de güvenlik önlemlerinin test amacıyla devre dışı bırakıldığını açıklamıştı.
OpenAI son güncellemesinde, olayın ortaya çıkmasının ardından söz konusu araştırma modelinin tamamen devre dışı bırakıldığını, şifrelendiğini ve araştırmacıların erişimine kapatıldığını duyurdu. Şirket ayrıca devam eden inceleme kapsamında etkilendiği belirlenen hizmet sahiplerini doğrudan bilgilendirmeyi sürdüreceğini açıkladı.
