KNews.id – Jakarta – Kecerdasan buatan (AI) kini bisa menghasilkan berbagai informasi dengan begitu meyakinkan. Saking meyakinkannya, informasi yang keliru terkadang sulit dibedakan dengan fakta. Sebuah penelitian mengungkap bahwa konten yang dihasilkan AI bisa membuat seseorang memiliki ingatan palsu. Lebih parah, orang tersebut bahkan bisa sangat yakin bahwa apa yang diingatnya benar-benar terjadi.
Temuan ini diungkap oleh peneliti Massachussets Institute of Technology (MIT) Pattie Maes, bersama timnya. Dalam penelitian itu, para peserta diuji dengan serangkaian foto. Di awal, mereka diminta mengamati sejumlah foto yang telah disiapkan peneliti. Peserta kemudian dibagi menjadi dua kelompok. Kelompok pertama kembali diperlihatkan foto asli, sedangkan kelompok kedua disuguhi foto yang sudah dimanipulasi menggunakan AI.
Peneliti kemudian menguji ingatan kedua kelompok untuk mengetahui seberapa akurat mereka mengingat foto yang pertama kali dilihat. Estonia Ajarkan Keamanan Siber sejak TK, Singapura Buat Komik Artikel Kompas.id Hasilnya, peserta yang melihat foto hasil manipulasi AI lebih sering salah mengingat isi foto asli. Mereka bahkan cenderung sangat yakin bahwa ingatan yang keliru itu adalah jawaban benar.
AI bisa mengubah ingatan manusia
Kini yang menjadi pertanyaan, bagaimana konten buatan AI bisa memengaruhi ingatan seseorang? Pada dasarnya, ingatan manusia tidak selalu akurat. Apa yang kita ingat tentang suatu kejadian bisa berubah setelah menerima informasi baru, termasuk yang isinya keliru. Fenomena ini sebenarnya bukan hal baru.
Para peneliti psikologi sudah lama mengetahui bahwa ingatan manusia cukup mudah dipengaruhi oleh informasi dari luar. Karena itu, kehadiran konten buatan AI menjadi masalah. AI kini mampu menghasilkan foto, video, hingga tulisan yang tampak begitu meyakinkan, meskipun isinya belum tentu sesuai kenyataan.
Nah ketika seseorang terus menerus terpapar, menerima, melihat, dan membaca informasi palsu, bukan tidak mungkin ingatannya akan terpengaruh dan tergantikan dari kejadian aslinya. Fenomena ini juga pernah dibuktikan melalui penelitian tahun 2025 yang menguji soal pengaruh konten buatan AI terhadap ingatan manusia. Dalam studi tersebut, peneliti menemukan bahwa video deepfake dan teks buatan AI membuat peserta memiliki ingatan palsu tentang skandal politik yang sebenarnya tidak pernah terjadi.
Yang lebih parah, informasi fiktif tadi bahkan dilaporkan ikut memengaruhi niat peserta untuk memberikan suara dalam pemilihan umum. Dari penelitian itu, bisa diambil kesimpulan bahwa dampak konten hasil manipulasi AI tidak berhenti pada persoalan benar atau salahnya informasi yang diterima. Dalam situasi tertentu, informasi palsu juga bisa memengaruhi keputusan seseorang.
Chatbot AI juga punya risiko besar
Risiko serupa juga patut diperhatikan ketika menggunakan chatbot AI, seperti ChatGPT untuk mencari informasi atau meminta rangkuman. Pasalnya, chatbot AI tidak selalu menghasilkan jawaban yang akurat. Ada kalanya sistem tersebut memberikan informasi yang salah, tetapi menyampaikannya dengan bahasa yang terdengar meyakinkan. Fenomena ini lebih dikenal dengan istilah “halusinasi AI”.
Yang jadi masalah dari “halusinasi AI” adalah manusia tidak selalu jeli menangkap kesalahan tersebut. Sejumlah penelitian menunjukkan bahwa pengguna masih kesulitan membedakan informasi yang benar dan yang keliru. Orang yang memiliki keahlian di bidang tertentu pun bahkan disebut masih punya potensi besar terpengaruh oleh jawaban keliru yang dihasilkan AI.
Kondisi ini lantas menjadi perhatian karena penggunaan AI kini semakin meluas. Berbagai industri, mulai dari perbankan, layanan kesehatan, hingga pemerintahan tak luput memanfaatkan AI untuk membantu pekerjaan sehari-hari. Karena itu, untuk mengurangi risiko kesalahan, sejumlah organisasi menerapkan pendekatan human in the loop, yakni dengan melibatkan manusia untuk memeriksa hasil kerja AI sebelum digunakan.
Namun, pendekatan ini dinilai masih belum sempurna 100 persen. Alasannya jelas, pengawasan manusia tidak bisa menjadi jaminan bahwa seluruh kesalahan AI bisa terdeteksi. Jika orang yang bertugas memeriksa hasil AI ikut mempercayai informasi yang keliru, maka kesalahan tersebut tetap berpotensi lolos dan memengaruhi keputusan yang diambil nantinya.
Apalagi menurut sejumlah penelitian, tingkat keberhasilan rata-rata orang dalam membedakan konten asli dan konten buatan AI tidak jauh berbeda dari peluang saat menebak hasil lemparan koin. Dengan kata lain, seseorang belum tentu bisa langsung mengenai informasi (foto, video, tulisan) yang dilihatnya merupakan hasil manipulasi AI, sebagaimana dihimpun KompasTekno dari Gizmodo.
