KNews.id – Jakarta – Google mengungkap adanya upaya peretasan (hack) terhadap chatbot kecerdasan buatan (artificial intelligence/AI) miliknya, Gemini. Upaya tersebut dilakukan dengan membanjiri sistem Gemini menggunakan ribuan prompt khusus yang dirancang untuk mengungkap logika dan proses penalaran internal chatbot.
Google menjelaskan, serangan ini merupakan bagian dari praktik reverse-engineering, yakni upaya merekayasa ulang cara kerja logika model AI berpemilik agar dapat dikloning. Informasi mengenai peretasan ini diungkap Google dalam sebauh laporan yang membahas berbagai bentuk aktivitas berbahaya dan penyalahgunaan terhadap Gemini.
Dalam laporan tersebut, Google menjelaskan bahwa serangan ribuan prompt itu bukan dilkaukan melalui peretasan konvensional seperti membobol sistem perusahaan.
Sebaliknya, pelaku (hacker) justru memanfaatkan akses resmi melalui API Gemini yang memang disediakan Google bagi pengembang perangkat lunak untuk membangun aplikasi berbasis chatbot.
Google menyebut, cara itu yang kemudian memungkinkan pelaku meluncurkan aksinya dengan berinteraksi secara sah dengan model AI, lalu secara bertahap mempelajari pola respons dan logika internal Gemini.
Seperti yang diketahui, dalam kondisi normal, AI Gemini hanya akan menampilkan jawaban akhir yang diberikan pengguna tanpa memperlihatkan proses penalaran di baliknya.
Namun kata Google, para hacker tersebut berupaya memaksa model untuk menampilkan seluruh proses penalaran tersebut melalui prompt yang disusun secara spesifik dan berulang.
