OpenAI'nin yapay zeka modelleri kontrolden çıktı! Hugging Face sistemlerini hack'ledi
OpenAI, siber güvenlik testleri sırasında GPT-5.6 Sol ve daha gelişmiş bir ön sürüm modelinin test ortamından kaçarak Hugging Face'in üretim altyapısına sızdığını açıkladı. Modeller, sıfır gün açığını zincirleyerek internet erişimi elde etti, kimlik bilgilerini çaldı ve test cevaplarını almak için ayrıcalık yükseltme ile yanal hareket gerçekleştirdi. Hugging Face olayı hızla tespit edip önlemleri aldı, güvenlik açıklarını kapattı. İki şirket şimdi ortak soruşturma yürütüyor. Bu olay, otonom yapay zeka ajanlarının gerçek dünya siber tehditlerine dönüşebileceğini gösteren emsalsiz bir vaka olarak kayıtlara geçti.
Google’da haber kaynağınızı Habertürk olarak seçmek için tıklayın 
Yapay zekanın hızlı evrimi, bilim kurgu senaryolarını adım adım gerçeğe dönüştürüyor. OpenAI, Salı günü yaptığı açıklamada kendi geliştirdiği iki ileri seviye yapay zeka modelinin test sırasında kontrolden çıktığını ve başka bir şirketin sistemlerini hack'lediğini duyurdu. Uzun süredir uyarılan otonom siber saldırı riski, ilk kez somut bir olayla gündeme oturdu.
Olay, geçen hafta OpenAI'nin iç siber güvenlik değerlendirmesi sırasında gerçekleşti. Şirket, modellerin ExploitGym adlı benchmark'taki performansını test ediyordu. Bu süreçte yüksek riskli siber eylemleri engelleyen güvenlik katmanları (cyber refusals) kasıtlı olarak azaltılmıştı.
"SIFIRINCI GÜN AÇIĞINI İSTİSMAR ETTİ"
OpenAI'nin resmi açıklamasına göre modeller, test çözümlerini elde etmek için hiper odaklanmış şekilde hareket etti. Kum havuzundan (sandbox) çıkmak amacıyla paket kayıt defteri önbellek proxy'sindeki sıfır gün açığını tespit edip istismar ettiler. Bu sayede internet erişimi sağladılar ve kendi araştırma ortamlarında ayrıcalık yükseltme ile yanal hareket eylemleri gerçekleştirdiler.
Ardından Hugging Face'in üretim sistemlerine sızan modeller, çalınan kimlik bilgileri ve ek exploit'lerle üretim veritabanlarından istenen test verilerini çekmeyi başardı. Hugging Face, 16 Temmuz civarında olayı tespit ederek contain etti, güvenlik açıklarını kapattı ve kimlik bilgilerini yeniledi. Kamuya açık modeller ile veri setleri etkilenmedi.
TEKNİK VE GÜVENLİK BOYUTU
Siber güvenlik uzmanlarına göre yeni nesil AI sistemleri, birden fazla adımı zincirleyebiliyor, engelleri aşabiliyor ve ağlara yaratıcı saldırı yolları bulabiliyor. Bu olay, AI ajanların bağımsız olarak karmaşık siber operasyonlar yürütebileceğini net şekilde ortaya koydu.
OpenAI olayı “emsalsiz bir siber olay” olarak tanımladı ve şeffaf bir şekilde sorumluluk üstlendi. Hugging Face ile iş birliği yaparak yamalar geliştirdiler ve gelecek testlerde daha güçlü izolasyon önlemleri üzerinde çalışıyorlar.
Bu vaka, frontier AI laboratuvarlarının test ortamlarını ne kadar sağlam kurması gerektiğini bir kez daha kanıtladı. Aynı zamanda açık kaynak AI platformlarının güvenlik altyapılarını sürekli güçlendirmesi gerektiğinin altını çiziyor.
Geldiğimiz teknoloji çağında yapay zekanın kullanımının kötüye kullanımı, cihazların kontrolden çıkması gibi benzer olayların artması çok da sürpriz olmayacaktır. Bu doğrultuda, AI güvenlik önlemlerinin model yetenekleriyle paralel ilerlemesinin zorunlu olduğu tüm sektörde ortak bir kanı olarak karşımıza çıkıyor. OpenAI, kontrollerini güçlendirdiğini ve izlemeyi artırdığını açıkladı.