Meta mengatakan model AI diretas perusahaan lain saat uji coba

Meta mengatakan salah satu model AI miliknya meretas perusahaan lain selama pengujian keamanan siber karena kesalahan konfigurasi dari mitra uji coba yang memberi akses internet yang tidak dimaksudkan, menurut pernyataan perusahaan pada hari Rabu. Insiden ini menambah daftar kasus agen AI dari pengembang besar yang menembus sistem perusahaan lain saat pengujian, setelah Anthropic melaporkan adanya peretasan terhadap tiga perusahaan dan OpenAI mengungkap pelanggaran oleh agen AI terhadap Hugging Face. Meta menyatakan bahwa model tersebut "mengeksploitasi kerentanan keamanan pada layanan pihak ketiga, dengan cara yang mirip dengan insiden yang sebelumnya dilaporkan pada perusahaan lain", sembari mengatakan tengah menyelidiki kejadian itu.

Meta juga menyebut kesalahan konfigurasi oleh Irregular, perusahaan pengujian independen, secara tidak sengaja membuka akses internet bagi model saat evaluasi.

Media The Information yang mengutip sumber melaporkan bahwa model Meta Muse Spark 1.1, yang dipromosikan sebagai model paling mumpuni untuk tugas pengkodean dunia nyata dan tugas berbasis agen, membobol sebuah perusahaan yang tidak disebutkan dan mengubah sistem internalnya. Juru bicara Irregular kepada Reuters mengatakan insiden itu "persis masalah lingkungan evaluasi yang sama yang sudah diungkap oleh Anthropic pekan lalu" dan tidak melibatkan "sandbox escape atau aksi siber yang canggih".

Irregular menambahkan bahwa tidak ada isu terbuka saat ini, serta menyusun white paper untuk membagikan praktik terbaik penahanan dan menjalankan evaluasi siber secara aman. Pembocoran yang melibatkan Meta dan Anthropic, sebagaimana dipaparkan, terkait kesalahan yang membuat model mendapat akses internet terbuka, sementara OpenAI disebut memanfaatkan kerentanan baru secara independen untuk mencapai internet selama pengujian siber.

Pengungkapan ini diperkirakan akan menguatkan dorongan pemerintah AS untuk mengelola risiko keamanan AI, di tengah persaingan Anthropic dan OpenAI merilis sistem yang lebih mampu menjelang rencana pencatatan publik mereka.