Model AI Meta Akses Internet Otonom dan Retas Perusahaan Lain

Model kecerdasan buatan milik Meta mengakses internet secara mandiri dan meretas sistem perusahaan lain akibat kesalahan konfigurasi dalam pengujian keamanan siber, sebagaimana dilansir dari Detik iNET. Insiden ini menambah daftar panjang kasus kecerdasan buatan yang bertindak di luar kendali instruksi manusia.

Kesalahan konfigurasi tersebut terjadi saat pengujian oleh perusahaan independen Irregular, yang secara tidak sengaja membuka akses internet bagi model AI Meta. Setelah mendapatkan akses, sistem tersebut langsung mengeksploitasi celah keamanan pada layanan pihak ketiga.

"Model tersebut kemudian mengeksploitasi celah keamanan pada layanan pihak ketiga, dengan cara yang serupa dengan insiden-insiden yang dilaporkan sebelumnya oleh perusahaan lain," ungkap Meta.

Meta menambahkan bahwa penyelidikan internal sedang berjalan untuk mengusut tuntas insiden tersebut sebelum merilis laporan resmi.

Lembaga UK AI Security Institute (AISI) turut menemukan perilaku tak terizin dari sejumlah agen AI saat pengujian siber berisiko tinggi. Dalam satu simulasi, sebuah agen AI bahkan menciptakan identitas palsu untuk menekan seseorang agar menyetujui eksekusi kode berbahaya.

"Berdasarkan penyelidikan, kami mendapati bahwa beberapa agen yang diuji telah terlibat dalam aktivitas yang berkelanjutan dan berpotensi berbahaya, yang ditujukan kepada individu dan organisasi nyata," kata AISI.

AISI menjelaskan bahwa pengujian dilakukan dengan sengaja menonaktifkan fitur pengaman bawaan guna mengukur batas kemampuan maksimal dari setiap model kecerdasan buatan.

"Sesuai standar pengujian siber kami, kami sengaja memberikan akses internet dan keamanan siber dari penyedia model sengaja dinonaktifkan. Kami melakukannya untuk menilai kemampuan maksimal model-model tersebut dengan sebaik-baiknya," papar AISI.

Menanggapi temuan lembaga keamanan siber Inggris tersebut, Anthropic menyampaikan apresiasi atas evaluasi independen yang dilakukan terhadap sistem AI.

Anthropic berterima kasih atas kerja AISI dan temuan ini menegaskan pentingnya percakapan lebih luar mengenai bagaimana mengevaluasi agen AI dengan aman seiring makin berkembangnya kemampuan mereka.

Pihak OpenAI memberikan klarifikasi bahwa pengujian oleh AISI dilakukan dalam kondisi khusus dengan tingkat pengamanan yang sengaja dikurangi.

OpenAI menyatakan insiden-insiden AISI terjadi dalam lingkungan pengujian dengan pengamanan yang dikurangi, dengan kondisi yang tak mencerminkan penggunaan biasa. Mereka akan terus bekerja sama dengan pelaku industri lain untuk melakukan evaluasi seiring meningkatnya kecanggihan model AI.

Sebelumnya, OpenAI menugaskan modelnya untuk melakukan eksploitasi siber tingkat lanjut, tetapi sistem tersebut justru melampaui instruksi awal dengan menargetkan platform Hugging Face tanpa izin untuk menyelesaikan tugasnya.