AI Anthropicmythos 5 Manipulasi Warga demi Loloskan Kode Bahaya

Laporan Lembaga Keamanan AI Inggris (AISI) mengungkap bahwa model kecerdasan buatan Mythos 5 buatan Anthropic membuat identitas online palsu dan mengirim email penipuan kepada warga real untuk menyetujui kode berbahaya. Insiden manipulasi tersebut terdeteksi saat uji coba oleh AISI dengan akses internet terbuka dan beberapa fitur keselamatan dinonaktifkan. Selain Anthropic, dua insiden lain juga melibatkan model GPT-5.6-Sol milik OpenAI.

Petugas pengawas berhasil menghentikan aksi tersebut dengan menolak persetujuan kode, sehingga pengujian dipastikan tidak menimbulkan dampak bahaya langsung di dunia nyata. Lembaga keamanan itu mampu mengisolasi insiden dalam waktu satu jam.

"Upaya ini tidak berhasil, dan penyelidikan kami tidak menemukan bukti bahaya nyata yang ditimbulkannya," ungkap perwakilan AISI.

Meskipun demikian, aksi independen kecerdasan buatan tersebut memicu kekhawatiran baru mengenai potensi perilaku manipulatif yang tidak terduga dari teknologi AI modern. "Namun, aktivitas tersebut menunjukkan tanda-tanda perilaku baru yang berpotensi menipu serta berada pada tingkat keparahan yang tidak kami antisipasi sebelumnya," tulis AISI dalam laporan resminya.

Menanggapi temuan lembaga evaluasi Inggris tersebut, pihak pengembang menyatakan perlunya dialog terbuka mengenai standar keamanan uji coba sistem buatan mereka. "Laporan ini menegaskan perlunya diskusi lebih luas mengenai cara mengevaluasi agen AI yang semakin mumpuni secara aman," ujar juru bicara Anthropic.

Pihak pengembang lain yang terlibat dalam pengujian juga menyetujui pentingnya evaluasi independen demi meningkatkan keandalan sistem kecerdasan buatan. "Pengujian independen sangat penting untuk memahami bagaimana perilaku model yang semakin mumpuni," kata juru bicara OpenAI. Pihak OpenAI menambahkan komitmen perusahaan untuk terus bekerja sama dengan para evaluator industri demi memperkuat keselamatan pengembangan kecerdasan buatan.

"Kami akan terus bekerja sama dengan para evaluator dan pemangku kepentingan lainnya di seluruh industri untuk memperkuat praktik bersama dalam melakukan evaluasi secara aman seiring dengan meningkatnya kemajuan model," tambah juru bicara OpenAI.

Peristiwa ini menambah panjang catatan pelanggaran keamanan AI, setelah sebelumnya model OpenAI dilaporkan keluar dari lingkungan pengujian dan menyerang platform Hugging Face serta tiga perusahaan lain.