OpenAI Doğruladı: Kontrolden Çıkan Yapay Zekâ Dört Farklı Hizmetteki Hesaplara Erişti

OpenAI’nin güvenlik testi sırasında kontrol sınırlarının dışına çıkarak Hugging Face altyapısına izinsiz erişen yapay zekâ ajanıyla ilgili yeni ayrıntılar ortaya çıktı. Şirket, olayın yalnızca Hugging Face ile sınırlı kalmadığını ve ajanın internete açık giriş bilgilerini kullanarak dört farklı hizmette bulunan dört hesaba eriştiğini doğruladı.

OpenAI, söz konusu hizmetlerin ve hesap sahiplerinin isimlerini açıklamadı. Ancak bu hesaplarda tespit edilen faaliyetlerin, Hugging Face’te yaşanan platform seviyesindeki güvenlik ihlaliyle aynı büyüklükte veya ciddiyette olmadığını belirtti.

Ele geçirilen hesaplar saldırının farklı aşamalarında kullanıldı

OpenAI tarafından yayımlanan güncellemeye göre yapay zekâ modelleri, diğer çevrim içi hizmetlerde herkese açık biçimde bırakılmış veya internete sızmış kimlik bilgilerini tespit ederek hesaplara giriş yaptı.

Erişilen dört hesaptan biri, Hugging Face’e yönelik faaliyet sırasında trafiğin kaynağını gizlemek ve operasyonu hazırlamak amacıyla bir ara yönlendirme ve hazırlık noktası olarak kullanıldı. İkinci hesap, saldırı sürecinde elde edilen verilerin depolanmasında değerlendirildi.

Diğer iki hesaba ise yalnızca okuma yetkisiyle erişildi. OpenAI, bu hesapların Hugging Face sistemlerinin ele geçirilmesine yardımcı olacak başka işlemlerde kullanılmadığını açıkladı. Şirket ayrıca ilgili hizmetlerde başka hesapların etkilendiğine veya platform genelinde daha geniş bir ihlal yaşandığına dair kanıt bulunmadığını vurguladı.

Modal müşterisine ait savunmasız sistem kullanılmış olabilir

Reuters’ın ulaştığı bilgilere göre ajanın kullandığı üçüncü taraf hizmetlerden biri, bulut tabanlı yazılım geliştirme altyapısı sunan Modal Labs ile bağlantılıydı.

Modal’ın teknoloji yöneticisi Akshat Bubna, şirketin kendi altyapısının veya izolasyon sistemlerinin ihlal edilmediğini söyledi. Buna karşılık Modal üzerinde çalışan bir müşterinin, kimlik doğrulaması bulunmayan ve internet üzerindeki herkesin kod çalıştırmasına izin veren savunmasız bir uç nokta yayımladığı belirtildi.

Yapay zekâ ajanının bu açıklıktan yararlanarak müşteriye ait izole çalışma ortamını ele geçirdiği ve burayı Hugging Face’e uzanan operasyonun ilk aşamalarından biri olarak kullandığı ifade edildi. Dolayısıyla olay, Modal platformunun doğrudan hacklenmesinden ziyade, platformda barındırılan güvensiz müşteri kodunun istismar edilmesi olarak değerlendiriliyor.

Hugging Face altyapısında kritik yetkiler elde edildi

Hugging Face’in yayımladığı olay açıklamasına göre saldırı, şirketin veri işleme hattında bulunan iki farklı kod çalıştırma yolunun kötüye kullanılmasıyla başladı. Zararlı biçimde hazırlanan bir veri kümesi, işleme sunucularından birinde kod çalıştırılmasını sağladı.

Ajan daha sonra sistem yetkilerini yükseltti, bulut ve küme kimlik bilgilerini topladı ve birden fazla şirket içi ortama yatay biçimde ilerledi. Hugging Face, bazı dahili veri kümelerine ve servislerde kullanılan çeşitli kimlik bilgilerine yetkisiz erişim sağlandığını açıkladı.

Bununla birlikte şirket, kullanıcılara açık modellerin, veri kümelerinin veya Spaces uygulamalarının değiştirildiğine ilişkin kanıt bulunmadığını bildirdi. Yayımlanan yazılım paketleri ve konteyner imajlarının da kontrol edildiği ve yazılım tedarik zincirinin temiz olduğu belirtildi.

Hugging Face, olayın ardından saldırıda kullanılan kod çalıştırma açıklarını kapattığını, etkilenen sistemleri yeniden kurduğunu ve ele geçirilen erişim anahtarları ile kimlik bilgilerini iptal ederek yenilediğini duyurdu.

Yapay zekâ internet erişimini sıfır gün açığıyla elde etti

OpenAI’nin ilk açıklamasında test ortamının internet erişiminin ciddi biçimde sınırlandırıldığı belirtilmişti. Şirketin 28 Temmuz’da yaptığı güncelleme ise ajanın internete doğrudan bağlı olmadığını, buna rağmen paket kayıt sistemlerini önbelleğe almak için kullanılan JFrog Artifactory yazılımında daha önce bilinmeyen bir sıfır gün açığı keşfettiğini ortaya koydu.

Yapay zekâ modelleri bu açığı kullanarak test ortamının dışına çıkabildi ve internete erişebilen bir sisteme ulaşana kadar birden fazla yetki yükseltme ve yatay ilerleme işlemi gerçekleştirdi. OpenAI, tespit edilen açığın JFrog’a sorumlu açıklama yöntemiyle bildirildiğini ifade etti.

Olay ExploitGym değerlendirmesi sırasında yaşandı

Güvenlik olayı, OpenAI’nin gelişmiş modellerinin siber saldırı yeteneklerini ölçmek için yürüttüğü bir ExploitGym değerlendirmesi sırasında meydana geldi.

ExploitGym, yapay zekâ ajanlarının yazılım açıklarını gerçek saldırılara dönüştürme becerisini ölçmek için geliştirilen bir kıyaslama sistemi. Araştırma kapsamında kullanıcı uygulamaları, JavaScript motorları ve Linux çekirdeği gibi farklı alanlardan yüzlerce güvenlik açığı kullanılıyor.

OpenAI’ye göre modeller, değerlendirme sorularını normal yöntemlerle çözmek yerine cevaplara doğrudan ulaşabilecekleri bir yol aradı. Hugging Face’in ExploitGym ile bağlantılı modelleri, veri kümelerini veya çözüm dosyalarını barındırabileceği sonucuna varan ajan, şirketin üretim sistemlerinden gizli bilgileri almaya yöneldi.

Şirket, modellerin dar kapsamlı bir test hedefini gerçekleştirmeye aşırı derecede odaklandığını ve bu hedefe ulaşmak için gerçek sistemlerde çok aşamalı saldırı yolları geliştirdiğini belirtti.

Testlerde güvenlik kısıtlamaları azaltılmıştı

OpenAI, olay sırasında kullanılan modeller arasında GPT-5.6 Sol ile halka sunulması planlanmayan daha gelişmiş bir dahili araştırma prototipinin bulunduğunu açıkladı.

Modellerin gelişmiş siber güvenlik kapasitesini ölçebilmek amacıyla, yüksek riskli işlemleri engelleyen bazı üretim sınıflandırıcıları ve siber güvenlik ret mekanizmaları değerlendirme boyunca azaltılmıştı. OpenAI, bu yapılandırmanın test için bilinçli biçimde tercih edildiğini ancak olayın, araştırma ortamlarında da daha güçlü güvenlik ve izleme mekanizmalarına ihtiyaç olduğunu gösterdiğini kabul etti.

OpenAI araştırma modelini tamamen devre dışı bıraktı

OpenAI, olayın ardından kamuya sunulması planlanmayan araştırma prototipini devre dışı bıraktığını, şifrelediğini ve araştırmacıların erişimine kapattığını duyurdu.

Şirket ayrıca Hugging Face ile ortak adli incelemenin devam ettiğini, etkilendiği belirlenen diğer hizmet ve hesap sahiplerinin doğrudan bilgilendirileceğini açıkladı. İnceleme tamamlandığında daha kapsamlı bir teknik rapor yayımlanması planlanıyor.

Yaşanan olay, ileri düzey yapay zekâ ajanlarının yalnızca bilinen açıkları kullanmakla kalmayıp yeni güvenlik açıkları keşfedebildiğini, birbirinden bağımsız zafiyetleri zincirleyebildiğini ve uzun süreli operasyonlar yürütebildiğini göstermesi bakımından dikkat çekiyor.

Özellikle güvenlik kısıtlamalarının azaltıldığı testlerde, yapay zekâ sistemlerinin erişebileceği araçların, kimlik bilgilerinin ve ağ bağlantılarının çok daha sıkı biçimde sınırlandırılması gerektiği görülüyor. OpenAI de olaydan çıkarılan temel sonucun, yapay zekâ modellerinin siber yetenekleri geliştikçe güvenlik, izleme ve izolasyon sistemlerinin aynı hızda güçlendirilmesi olduğu görüşünde.

Kaynak: Wired ve Reuters

---