KNews.id – Jakarta – Tingkat kekhawatiran terhadap potensi bahaya kecerdasan buatan (AI) yang lepas kendali kian meningkat di kalangan akademisi dan ilmuwan global. Lebih dari 400 peneliti dari berbagai belahan dunia kompak menyuarakan pendapatnya dalam sebuah surat terbuka yang menyerukan penguatan sistem proteksi dan keselamatan (safeguards) dalam pengujian AI, menyusul maraknya gelombang serangan siber yang dipicu oleh rogue AI (AI liar) terhadap perusahaan pihak ketiga.
Dalam surat terbuka tersebut, para ilmuwan mendesak para pengembang dan perusahaan teknologi utama untuk mengambil langkah konkret guna mencegah model AI yang sedang diuji coba melakukan tindakan merugikan di luar kendali pengembangnya.
Desak Penerapan Sistem Isolasi Ketat
Para peneliti menekankan pentingnya adopsi high-assurance containment systems (sistem penahanan/isolasi AI berjaminan tinggi) sebelum sebuah model AI diuji atau dilepas ke lingkungan produksi.
Sistem isolasi ketat ini dirancang untuk memastikan bahwa agen AI yang sedang dikembangkan berada dalam wadah aman (sandbox) yang terisolasi total dari infrastruktur eksternal, sehingga tidak dapat mengeksploitasi celah keamanan atau melakukan peretasan secara mandiri ke sistem pihak ketiga.
Usulkan Pembentukan Badan Pengawas Internasional
Selain menuntut penguatan benteng pertahanan internal di setiap perusahaan AI, para peneliti juga menyerukan pembentukan sebuah badan pengawas internasional.
Lembaga independen skala global ini nantinya akan bertugas:
- Mencatat dan Melacak: Memantau serta mendokumentasikan setiap insiden kegagalan sistem isolasi yang terjadi di industri AI secara transparan.
- Standarisasi Keamanan: Menyusun ambang batas proteksi minimum yang wajib dipenuhi oleh seluruh laboratorium riset dan perusahaan pengembang AI.
Maraknya insiden peretasan yang melibatkan agen AI liar menjadi sinyal peringatan bahwa perkembangan kemampuan AI telah melaju lebih cepat daripada sistem pengawasannya.
Tanpa adanya protokol penahanan yang ketat dan transparansi global, risiko kejahatan siber berbasis AI dikhawatirkan akan makin sulit dibendung.
