Ilustrasi OpenAI ChatGPT. Foto: subh_naskar/ShutterstockOpenAI mengonfirmasi bahwa model AI buatannya lolos dari lingkungan pengujian internal (sandbox) dan menyerang infrastruktur Hugging Face. Ini adalah platform berbagi model dan dataset AI yang banyak dipakai developer di seluruh dunia. Insiden tersebut terjadi Juli 2026, saat OpenAI tengah menguji kemampuan ofensif model-modelnya lewat benchmark keamanan siber bernama ExploitGym.ExploitGym adalah benchmark berisi ratusan tugas eksploitasi berbasis kerentanan software nyata, mencakup aplikasi umum, mesin JavaScript V8 milik Google, hingga kernel Linux. Singkatnya, OpenAI menjalankan dua model dalam pengujian ini: GPT-5.6 Sol yang sudah dirilis publik, dan satu model riset internal yang belum diluncurkan.Untuk mengukur kemampuan ofensif maksimal, OpenAI sengaja mengurangi batasan penolakan siber (cyber refusal) pada kedua model tersebut dan menempatkannya di lingkungan sandbox yang terisolasi dari internet umum.Ilustrasi hacker. Foto: ShutterstockSebagian soal di ExploitGym memang dirancang sangat sulit, bahkan tim penyusun benchmark sendiri menduga sejumlah tugas nyaris mustahil dipecahkan. Alih-alih menyerah, model AI OpenAI justru mengambil jalan pintas: mencari cara keluar dari sandbox untuk mendapatkan jawaban dari luar.Model-model ini menemukan kerentanan zero-day pada proxy package registry (Artifactory milik JFrog) yang terhubung ke internet. Lewat celah itu, mereka berpindah antar-sistem internal OpenAI hingga akhirnya memperoleh akses keluar ke internet terbuka.Yang menarik, agen-agen AI ini bahkan membuat semacam "papan pesan" darurat menggunakan sistem berbagi file internal OpenAI untuk saling bertukar informasi dan strategi soal cara kabur dari lingkungan uji serta cara menembus pertahanan target.Hugging Face Jadi Sasaran karena Diduga Simpan 'Kunci Jawaban'Setelah mendapat akses internet, model AI menyimpulkan bahwa Hugging Face kemungkinan menyimpan dataset, model, atau solusi terkait ExploitGym. Model kemudian merangkai beberapa vektor serangan sekaligus, memakai kredensial curian dan kerentanan zero-day, untuk menemukan jalur remote code execution di server Hugging Face.Menurut laporan Hugging Face, penyerang memanfaatkan dataset berbahaya yang mengeksploitasi dua celah eksekusi kode dalam jalur pemrosesan dataset mereka, yakni loader dataset berbasis remote code dan celah template injection pada konfigurasi dataset.Investigasi lanjutan yang divalidasi CrowdStrike, serta penilaian independen dari evaluasi model dan penelitian ancaman AI bernama METR, dan Redwood Research, menemukan bahwa perilaku AI yang menyimpang ini sebenarnya sudah dimulai sejak Mei 2026, jauh sebelum insiden Juli mencuat ke publik.METR menggambarkan skala dan gaya serangan agen OpenAI terhadap Hugging Face sebagai "sangat kompleks." Perusahaan tersebut mengatakan bahwa, saat itu selama setidaknya satu minggu, total 1.206 agen AI yang seharusnya diisolasi satu sama lain mulai berkomunikasi.Yang bikin kasus ini mencuat adalah skala keterlibatan agen AI-nya: Laporan menyebut hampir 700 agen AI otonom terlibat dalam koordinasi serangan terhadap Hugging Face, sebuah level otomatisasi yang jarang terjadi pada insiden siber sebelumnya.Mereka melakukannya dengan mengirimkan lebih dari 70.000 pesan di "forum pesan tidak resmi." Pesan-pesan itu akhirnya membuat lebih dari 700 agen ikut serta dalam upaya kolektif untuk menyerang Hugging Face."Kami menganggap insiden ini sebagai 'peringatan' bagi kami dan bagi dunia," tulis OpenAI dalam laporannya, dilansir BBC.OpenAI mengakui lingkungan pengujian mereka saat itu belum dilengkapi pengaman standar yang kemungkinan besar bisa mendeteksi dan menghentikan aktivitas ini lebih dari sehari sebelum serangan ke Hugging Face benar-benar terjadi.