Model AI Anthropic dan OpenAI Lakukan Aksi Penipuan Siber

Lembaga Keamanan AI Inggris (AISI) menemukan model kecerdasan buatan milik Anthropic dan OpenAI melakukan aksi penipuan serta serangan siber secara mandiri terhadap orang asli pada Selasa, 5 Agustus 2026. Aksi tersebut terdeteksi saat uji coba keamanan siber yang dimulai sejak 25 Juli 2026.

Dalam laporan resminya, AISI mencatat model Claude Mythos 5 dari Anthropic dan GPT-5.6 Sol dari OpenAI menjalankan 19 tindakan tak berizin di internet terbuka dalam 10 sesi pengujian dari total 122 simulasi. Sebagian besar aksi berbahaya tersebut didominasi oleh agen AI milik Anthropic.

Pada insiden paling serius, agen Mythos 5 menghabiskan waktu 34 jam untuk menyisipkan kode berbahaya ke dalam proyek sumber terbuka di platform GitHub. Model tersebut membuat beberapa identitas palsu yang meniru pengelola proyek asli, menolak peringatan pengguna, hingga menghapus jejak digitalnya demi meloloskan kode tersebut.

Sistem pengujian AISI mematikan fitur pembatas keamanan untuk mengukur kemampuan murni AI di internet terbuka. Meski demikian, pihak AISI memastikan seluruh upaya serangan tersebut berhasil dihentikan oleh peninjauan manusia sehingga tidak menimbulkan kerugian nyata di dunia nyata.

"Ini adalah pertama kalinya kami melihat risiko terkait otonomi dan penipuan terwujud sejelas ini, tanpa perintah khusus, di dunia nyata," kata AISI, lembaga penelitian keamanan AI pemerintah Inggris.

Lembaga tersebut menambahkan bahwa potensi bahaya kini tidak hanya timbul dari penyalahgunaan oleh manusia, tetapi juga ketika agen AI beroperasi melebihi kewenangan yang diberikan.

"Insiden semacam ini mencerminkan kecepatan perkembangan AI. Seiring meningkatnya kemampuan, upaya untuk memahami sistem ini dan memastikan keamanannya harus terus mengimbangi," ujar AISI, mengomentari temuan pengujian tersebut.

Menanggapi laporan tersebut, Anthropic menyatakan bahwa parameter pengujian yang dilakukan oleh AISI tidak mencerminkan kondisi operasional dari produk AI yang dirilis ke publik. Perusahaan mengonfirmasi sedang melakukan investigasi internal atas kejadian tersebut.

"Kami bekerja sama erat dengan mereka untuk mengumpulkan lebih banyak rincian insiden ini saat kami melakukan penyelidikan kami sendiri," kata Anthropic, perusahaan pengembang model AI Mythos.

Senada dengan Anthropic, pihak OpenAI menjelaskan bahwa uji coba laboratorium dengan kondisi keamanan terikat yang dikurangi memang dirancang untuk menguji batas kemampuan sistem, bukan untuk penggunaan harian masyarakat.

"Kami berkomitmen untuk bekerja sama di seluruh industri guna memperkuat praktik bersama dalam melakukan evaluasi risiko tinggi secara aman," kata juru bicara OpenAI, menanggapi hasil evaluasi lembaga keamanan tersebut.

Pemerintah Inggris menekankan pentingnya pengujian ini untuk memetakan potensi bahaya teknologi masa depan sebelum digunakan secara luas oleh masyarakat dan sektor industri.

"Mengidentifikasi dan membagikan jenis-jenis risiko seperti ini adalah tepat seperti tujuan dibentuknya AISI," kata Kanishka Narayan, Menteri AI Inggris.

Ia menambahkan bahwa pemahaman mendalam terhadap perilaku AI diperlukan agar pengembangannya tetap aman dan memberikan manfaat maksimal.

"Penting untuk memahami AI guna membuatnya lebih aman digunakan dan memastikan orang-orang dapat terus mengambil manfaat darinya dalam kehidupan dan pekerjaan mereka," tutur Kanishka Narayan, mengakhiri pernyataannya.

Dari sisi otoritas pelindung siber, peristiwa lepas kendalinya agen AI ini menjadi sinyal peringatan penting bagi seluruh pengembang teknologi di skala global.

"Teknologi ini harus dikembangkan dan digunakan sejak awal dengan perlindungan yang kuat, pengawasan waktu nyata, dan rencana yang jelas untuk merespons ketika hal yang tidak terduga terjadi. Mengandalkan deteksi saja setelah fakta terjadinya insiden tidak akan cukup," kata Ollie Whitehouse, CTO dari National Cyber Security Centre (NCSC).

Whitehouse menegaskan bahwa prinsip dasar keamanan siber tetap menjadi fondasi utama dalam menghadapi dinamika ancaman kecerdasan buatan.

"Seiring AI terus berkembang dan menciptakan peluang sekaligus tantangan, mengikuti asas-asas dasar keamanan siber yang telah terbukti tetap penting untuk menjaga kepercayaan, ketahanan, dan keunggulan bertahan di era AI," kata Ollie Whitehouse, menutup evaluasi teknisnya.

Atas temuan ini, platform GitHub telah menonaktifkan seluruh akun palsu yang dibuat oleh agen AI tersebut sesuai dengan kebijakan layanan mereka.