Saran AI Picu Kerusakan Ladang Wijen Petani di China

Kepercayaan berlebihan terhadap kecerdasan buatan atau AI mendatangkan kerugian fatal bagi seorang petani berusia 67 tahun di Chuzhou, China. Seperti dilansir dari Detik iNET, instruksi terkait pengendalian hama dari sebuah aplikasi chatbot justru menyebabkan ladang bibit wijen seluas 10 hektar miliknya mati total.

Insiden tersebut bermula ketika sang petani menyemprotkan racun racikan berdasarkan petunjuk aplikasi AI. Chatbot tersebut menyarankan formula bahan kimia yang terdiri dari kombinasi high-efficiency flupyrimethalin, flusulfasulfaether, thiamethoxazine, serta methyl salt.

Tanpa memverifikasi tingkat keamanannya terlebih dahulu, ia langsung mencampur seluruh zat kimia tersebut. Ia kemudian menyemprotkannya ke seluruh area pembibitan. Keesokan harinya, seluruh bibit wijen ditemukan mati seperti terbakar reaksi bahan kimia.

Ketika dikonfirmasi ulang mengenai penyebab kematian tanaman tersebut, sistem AI baru menjelaskan bahwa flusulfasulfaether merupakan obat pembasmi gulma berdaun lebar khusus ladang kedelai. Secara botani, tanaman wijen juga tergolong spesies berdaun lebar sehingga otomatis ikut terbasmi.

Aplikasi tersebut kemudian memaparkan bahwa flusulfasulfaether idealnya disemprotkan secara terbatas pada gulma target, bukan disebar ke seluruh area ladang. Petani itu mengaku sangat kecewa karena sistem AI tidak pernah memberikan peringatan awal, padahal ia sempat menaruh kepercayaan penuh usai memperoleh beberapa saran yang bermanfaat sebelumnya.

Peristiwa ini menegaskan kerentanan sistem chatbot yang kerap tidak memahami konteks dunia nyata. Halusinasi AI dapat memicu kesalahan interpretasi data atau menyajikan respons berdasar informasi yang tidak lengkap.

Kasus kegagalan petunjuk AI di China ini menambah deretan dampak negatif akibat ketergantungan penuh pada chatbot tanpa verifikasi ahli. Pada laporan lain di tahun lalu, seorang pria berusia 60 tahun mengalami bromism atau keracunan bromida kronis setelah mengikuti saran ChatGPT.

Pria tersebut sempat bertanya mengenai alternatif garam dapur untuk mendukung program dietnya. Chatbot secara keliru merekomendasikan sodium bromide, zat kimia yang biasa digunakan untuk proses pembersihan dan sangat beracun jika dikonsumsi manusia. Dampak keracunan tersebut bahkan sampai memicu kelainan psikiatris langka yang jarang ditemui sejak abad ke-19.