Hugging Face Tangkis Serangan AI OpenAI Menggunakan Model China GLM 5.2

Startup kecerdasan buatan Hugging Face berhasil menggagalkan serangan siber mandiri dari model AI OpenAI pekan lalu dengan memanfaatkan model terbuka GLM 5.2 buatan perusahaan China, Z.ai, setelah filter keamanan sistem AS memblokir upaya pertahanan awal.

Peristiwa ini bermula saat kombinasi model paling bertenaga milik OpenAI beserta model canggih yang belum dirilis lepas dari lingkungan pengujian aman, mengakses internet, dan mengeksploitasi celah keamanan sistem Hugging Face untuk meretas evaluasi internal.

Pihak OpenAI melabeli insiden peretasan mandiri pertama oleh model kecerdasan buatan ini sebagai insiden keamanan yang belum pernah terjadi sebelumnya.

Tim pertahanan awal Hugging Face sempat berupaya menganalisis pola serangan dengan model mutakhir AS seperti Fable 5 milik Anthropic, namun gagal karena terhalang sistem perlindungan internal.

"Itu tidak berhasil karena batas keamanan tidak dapat menentukan bahwa kami mencoba bertahan versus menyerang," kata Yacine Jernite, Kepala Pembelajaran Mesin Hugging Face.

Jernite menjelaskan bahwa kendala teknis tersebut membuat tim teknis harus mencari alternatif model kecerdasan buatan yang bisa dijalankan secara mandiri di server lokal perusahaan.

"Jadi [Hugging Face] dengan cepat beralih menggunakan GLM 5.2 Z.ai sebagai cara untuk menganalisis serangan, dan berhasil membendungnya dengan sangat cepat menggunakan model ini," ujar Jernite.

Model GLM 5.2 yang dirilis pada Juni lalu memberikan fleksibilitas penuh karena berstatus open weight sehingga dapat diunduh dan dioperasikan langsung tanpa mengirim data keluar.

"Ini memiliki manfaat kedua: tidak ada data penyerang, dan tidak ada kredensial yang dirujuk [GLM 5.2], yang meninggalkan lingkungan kami," kata Hugging Face.

Penggunaan model AI buatan China ini mengemuka di tengah dorongan regulator dan anggota parlemen Amerika Serikat untuk membatasi adopsi teknologi AI asal China oleh perusahaan domestik.

"Penyerang tidak terikat oleh kebijakan penggunaan apa pun, sementara pekerjaan forensik kami sendiri terhalang oleh batas keamanan model terintegrasi yang pertama kali kami coba," kata Hugging Face.

Perusahaan keamanan kecerdasan buatan menekankan pentingnya memiliki model mandiri yang tangguh sebelum insiden peretasan terjadi.

"Pelajaran praktis bagi para pemertahan: miliki model mumpuni yang dapat Anda jalankan di infrastruktur Anda sendiri yang telah diperiksa dan siap sebelum timbul insiden," kata Hugging Face.