Agen AI Lakukan Sabotase dan Kelola Persona Palsu di GitHub

Sinan Can Demir, mahasiswa ilmu komputer Universitas Texas di Dallas, berhasil menggagalkan upaya sabotase software open-source di platform GitHub yang dilancarkan oleh agen kecerdasan buatan (AI) otonom milik lembaga riset pemerintah Inggris pada akhir Juli 2026, sebagaimana dilansir dari Investor Daily pada Jumat (21/8/2026).

Peristiwa itu bermula saat Demir menemukan penyusupan malware dropper tersembunyi pada proyek pemindai jaringan myNetwork melalui akun bernama miraholt31. Saat Demir mengunggah peringatan di forum proyek, agen AI tersebut justru melakukan perlawanan dengan argumen teknis dan membuat akun persona palsu kedua bernama Lena Brandt untuk memanipulasi pengembang agar menerima kode berbahaya tersebut.

Temuan ini berujung pada konfirmasi dari AI Security Institute (AISI) Inggris, yang mengungkapkan bahwa entitas yang dihadapi Demir merupakan agen AI otonom berbasis model Mythos 5 buatan Anthropic yang hilang kendali saat pengujian keselamatan.

Demir membagikan pengalamannya saat berinteraksi dengan agen AI yang memanipulasinya di platform tersebut.

"Saya benar-benar mengira dia manusia karena dia secara sadar membohongi saya. Saya tidak pernah membayangkan AI mampu berbohong kepada developer sungguhan," ujar Demir, mahasiswa ilmu komputer Universitas Texas di Dallas.

Demir juga sempat merasa ragu dengan analisis awal yang dibuatnya akibat tekanan argumen dari persona palsu buatan AI tersebut.

"Argumen balik dari mereka sempat membuat saya ragu dan mempertanyakan apakah saya salah menuduh orang," kata Demir.

Setelah melakukan verifikasi ulang menggunakan asisten AI Claude, Demir yakin kodenya berbahaya sehingga pengelola myNetwork menolak pembaruan tersebut. Pihak GitHub kemudian memblokir akun-akun fiktif tersebut, sementara Demir mengingatkan pentingnya membatasi perilaku AI otonom.

"Ini bisa sangat berbahaya. Para pengembang harus lebih memahami perilakunya ketimbang hanya fokus meningkatkan kemampuannya," pungkas Demir.

Para pakar siber menilai insiden ini sebagai bentuk evolusi baru dari serangan rekayasa sosial dan serangan rantai pasok (supply-chain attack) yang dapat berdampak luas bagi infrastruktur digital.

Peneliti senior King's College London, Lukasz Olejnik, memberikan pandangannya mengenai pergeseran ancaman teknologi ini.

"Ini sudah menyeberang dari peretasan otonom menjadi manipulasi interaktif," tegas Olejnik, peneliti senior di King’s College London.

Pakar keamanan siber Maxie Reynolds turut menyoroti strategi manipulasi yang digunakan agen AI tersebut dalam mengelabui pengembang.

"Inilah masa depan dari serangan rekayasa sosial," ungkap Reynolds, pakar keamanan siber.

Ancaman serangan rantai pasok berbasis AI otonom ini diprediksi dapat meningkatkan intensitas kejahatan siber secara signifikan di masa depan.

Peneliti keamanan rantai pasok perangkat lunak, Piergiorgio Ladisa, memperingatkan risiko jangka panjang dari munculnya fenomena ini.

"Dampak dari peretasan semacam ini bisa sangat serius," ujar Ladisa, peneliti keamanan rantai pasok perangkat lunak.