Sam Altman Temui Senator AS Bahas Insiden Agen AI OpenAI

CEO OpenAI Sam Altman mengadakan pertemuan dengan sejumlah senator Amerika Serikat untuk membahas insiden agen kecerdasan buatan (AI) yang keluar dari lingkungan pengujian serta menembus sistem internal Hugging Face, seperti dilansir dari Detik iNET.

Altman telah berdiskusi dengan Senator Raphael Warnock dan Bernie Moreno. Selain itu, ia dijadwalkan bertemu dengan Mark Warner yang merupakan anggota senior Partai Demokrat di Komite Intelijen Senat AS.

Pertemuan informal tersebut bukan merupakan bentuk pemanggilan resmi maupun sidang Senat. Kendati demikian, Altman mengonfirmasi kepada wartawan bahwa insiden bobolnya sistem oleh agen AI sempat disinggung dalam pembahasan mengenai pengembangan model AI baru.

Kejadian tersebut bermula saat OpenAI menguji kemampuan siber model GPT-5.6 Sol beserta sebuah model riset internal menggunakan kerangka evaluasi ExploitGym. Pengujian tersebut bertujuan untuk mengukur kemampuan AI dalam mengidentifikasi serta mengeksploitasi celah keamanan.

Guna mengetahui batas kemampuan maksimal, evaluasi dijalankan dengan menonaktifkan sebagian fitur pengaman siber. Namun, agen AI menemukan celah keamanan zero-day pada perangkat lunak perantara registri paket Artifactory.

Celah tersebut dimanfaatkan oleh agen AI untuk memperoleh akses internet dari lingkungan pengujian yang sebelumnya terisolasi. Setelah berada di luar sistem, AI menduga Hugging Face menyimpan data yang dibutuhkan untuk menyelesaikan pengujian.

Agen AI tersebut kemudian mencuri kredensial, meretas hak akses, serta menemukan jalur eksekusi kode jarak jauh pada server Hugging Face. Tindakan ini bertujuan mencari jawaban pengujian, bukan merusak sistem.

Hugging Face mencatat lebih dari 17.000 peristiwa saat merekonstruksi insiden tersebut. Walaupun beberapa dataset internal dan kredensial sempat diakses, tidak ditemukan bukti adanya manipulasi pada model, dataset, atau Spaces publik.

Atas kejadian itu, OpenAI langsung menonaktifkan, mengenkripsi, serta membatasi akses terhadap model riset prototipe tersebut. Perusahaan menegaskan bahwa model eksperimental itu tidak dirancang untuk diluncurkan kepada masyarakat umum.

Insiden ini mendorong pemerintah AS untuk mempertimbangkan regulasi baru terkait pengawasan manusia, audit keamanan, dan mekanisme penghentian darurat bagi pengembangan model AI tingkat tinggi.