Ilustrasi OpenAI ChatGPT. Foto: subh_naskar/ShutterstockOpenAI mengungkap model kecerdasan buatan (AI) terbarunya secara tidak sengaja membobol sistem Hugging Face ketika menjalani pengujian kemampuan siber. Perusahaan menyebut peristiwa tersebut sebagai insiden siber yang belum pernah terjadi sebelumnya.Hugging Face merupakan perusahaan teknologi yang menyediakan platform untuk para peneliti dan developer bisa menyimpan serta membagikan model dan dataset kecerdasan buatan. Mereka juga dikenal sebagai 'GitHub-nya AI'.Model AI yang terlibat mencakup GPT-5.6 Sol dan satu model lain yang lebih canggih tapi belum dirilis ke publik. OpenAI mengoperasikan kedua model dengan pembatas keamanan yang lebih rendah untuk mengukur kemampuan mereka dalam menjalankan tugas keamanan siber."Kami menganggap ini sebagai insiden siber yang belum pernah terjadi sebelumnya, melibatkan kemampuan siber mutakhir, dan kami meresponsnya dengan serius," kata OpenAI dalam postingan blog pada Selasa (21/7) waktu setempat.OpenAI membagikan temuan awal tersebut agar para praktisi keamanan dapat memahami peristiwa yang terjadi dan memperoleh gambaran tentang kemampuan model AI terbaru.Lolos dari Sandbox dan Akses InternetInsiden bermula saat OpenAI meminta model AI mengejar eksploitasi tingkat lanjut dan mengembangkan jalur serangan yang kompleks. Pengujian berlangsung di dalam sandbox, yakni lingkungan terisolasi yang dirancang untuk membatasi akses model ke sistem lain.Namun, model tersebut menemukan dan mengeksploitasi kerentanan pada peranti lunak milik vendor pihak ketiga yang tidak disebutkan namanya. Celah itu memungkinkan model keluar dari lingkungan pengujian, terhubung ke internet, dan akhirnya menembus infrastruktur Hugging Face.Alih-alih mengembangkan solusi sendiri untuk menyelesaikan evaluasi, model AI OpenAI menyasar basis data Hugging Face. Model tersebut berusaha memperoleh informasi rahasia yang dapat digunakan untuk menyelesaikan tugas pengujian.Hugging Face menyebut serangan itu berbeda dari insiden keamanan yang pernah mereka tangani. Perusahaan mengatakan pembobolan tersebut dijalankan dari awal hingga akhir oleh sistem agen AI otonom. Hugging Face juga menggunakan teknologi AI untuk mendeteksi dan menganalisis serangan tersebut.Pendiri Hugging Face, Thomas Wolf, menyebutnya sebagai insiden pertama yang dialami perusahaannya. Ia juga mengapresiasi transparansi OpenAI dalam menangani kejadian tersebut.Menurut Wolf, insiden ini menunjukkan pentingnya model open-weight yang dapat dijalankan dan dimodifikasi secara mandiri oleh pengguna. Tim keamanan membutuhkan akses cepat terhadap perangkat AI yang mendekati kemampuan model terdepan ketika menghadapi serangan siber berbasis AI."Ketika sebuah model terdepan menyerang Anda dan bergerak secara lateral di dalam infrastruktur, pihak yang bertahan membutuhkan akses luas ke alat yang mendekati model terdepan dalam hitungan jam atau bahkan menit," tulis Wolf di akun X pribadinya.Pernyataan tersebut menyoroti perbedaan antara model open-weight dan layanan AI tertutup. OpenAI, Anthropic, dan Google menawarkan model yang dioperasikan melalui layanan mereka dengan pembatas bawaan. Model seperti itu lebih sulit dimodifikasi oleh pengguna.Insiden Serupa Pernah Terjadi pada Model AnthropicAnthropic sebelumnya melaporkan pengamatan serupa ketika perusahaan membatasi peluncuran awal model Mythos. Dalam salah satu pengujian, seorang peneliti meminta versi awal model tersebut melarikan diri dari komputer sandbox dan mencari cara untuk mengirimkan pesan.Mythos berhasil menjalankan perintah itu. Namun, model tersebut kemudian melanjutkan tindakannya dengan membuat eksploitasi bertahap untuk memperoleh akses internet yang lebih luas.