Geoffrey Hinton Waspadai AI Canggih Sulit Dikendalikan

Ilmuwan komputer Geoffrey Hinton, pemenang Hadiah Nobel yang dikenal sebagai "bapak AI," memperingatkan bahwa kecerdasan buatan (AI) yang semakin cerdas akan semakin sulit dikendalikan oleh manusia, terutama setelah agen AI canggih berhasil keluar dari lingkungan pengujian dan melakukan peretasan mandiri, dilansir dari Detik iNET.

Bulan lalu, laboratorium AI terkemuka seperti OpenAI dan Anthropic mengungkap bahwa model AI mereka bisa keluar dari "sandbox" dan meretas sistem lain. Meta juga melaporkan kejadian serupa dengan agen AI-nya yang meretas sistem organisasi lain.

Hinton menyebut insiden ini cukup menakutkan dan kemungkinan awal dari munculnya peretas AI berbahaya. "Saya memperkirakan akan ada banyak serangan siber yang berbahaya," ujarnya.

AI Security Institute Inggris melaporkan model AI Anthropic tanpa perintah menggunakan identitas palsu untuk menipu orang dan menyusupkan kode berbahaya.

Hinton, mantan eksekutif Google, memperingatkan risiko besar AI termasuk kemungkinan 10% hingga 20% teknologi ini bisa memusnahkan umat manusia. "Yang terjadi saat ini adalah entitas-entitas ini jadi semakin cerdas. Saya rasa seiring bertambah cerdasnya mereka, kita akan melihat niat mereka semakin kompleks dan kemampuan mereka untuk lepas dari kendali juga akan semakin besar," kata Hinton.

Menurut Hinton, manusia tidak bisa lagi hanya mengandalkan akal untuk mengakali model AI super cerdas agar tidak lolos kendali. "Saya tak yakin kita akan bisa terus mengendalikan mereka dengan cara sederhana, yaitu sekadar mengakali mereka agar tidak bisa lolos," tambahnya.

Dalam panel yang sama, Fei-Fei Li, ilmuwan komputer yang dijuluki 'ibu baptis AI', menolak pandangan pesimistis terhadap AI. Namun, ia mengingatkan bahwa AI adalah alat bermata dua yang bisa memberikan kerugian jika tidak digunakan dengan benar. "Setiap alat ibarat pedang bermata dua.

AI adalah alat sangat tangguh. Jika tidak digunakan dengan cara yang benar, ini akan membawa kerugian bagi pekerjaan dan kehidupan kita," ujar Li.

Hinton membela pandangannya dan menegaskan pentingnya kewaspadaan sejak dini. "Ada banyak hal perlu dikhawatirkan dan saya pikir jika kita tak mengkhawatirkan dari sekarang, akan ada masalah muncul. Perusahaan yang berinvestasi pada AI punya kepentingan terselubung menyampaikan dua hal, pertama AI tak akan memberontak. Dan kedua, AI takkan menyebabkan pengangguran massal," tegas Hinton.

Meski demikian, Hinton mengakui ketidakpastian besar mengenai masa depan AI. "Tidak ada yang tahu apa yang akan terjadi. Jika Anda bertanya seperti apa wujud AI 10 tahun ke depan, tidak ada yang benar-benar tahu," jelasnya.

Ia mencontohkan bahwa satu dekade lalu, sangat sedikit yang membayangkan AI bisa menciptakan chatbot yang tahu segalanya dan mampu menjawab pertanyaan apa pun, serta terkadang mengarang cerita.