Peningkatan Risiko Disinformasi dari Kecerdasan Buatan di Dunia Penelitian

Aspek News - Ketika AI mampu menciptakan hal-hal yang belum pernah ada sebelumnya.

Salah satu keterbatasan utama model AI saat ini adalah fenomena "halusinasi," di mana sistem menghasilkan data, referensi, atau kutipan yang tidak ada tetapi disajikan dengan cara yang sangat meyakinkan.

Kekhawatiran ini didukung oleh penelitian ilmiah. Sebuah studi baru yang diterbitkan di jurnal medis bergengsi The Lancet menemukan lebih dari 4.000 kutipan palsu dalam 2.810 artikel ilmiah biomedis yang diterbitkan antara tahun 2023 dan awal 2026. Tim peneliti menganalisis hampir 2,5 juta artikel dan lebih dari 125 juta referensi dalam basis data PubMed Central, dengan membandingkannya dengan sistem akademik utama seperti PubMed, Crossref, OpenAlex, dan Google Scholar.

Hasil penelitian menunjukkan bahwa fenomena ini meningkat dengan cepat. Sementara pada tahun 2023 hanya sekitar 1 dari 2.828 artikel yang memuat setidaknya satu kutipan, pada tahun 2025 angka tersebut meningkat menjadi 1 dari 458 artikel. Dalam tujuh minggu pertama tahun 2026, angka ini terus meningkat menjadi 1 dari 277 artikel. Yang perlu diperhatikan, satu artikel onkologi ditemukan memuat sebanyak 18 referensi yang tidak ada dari total 30 dokumen yang dikutip.

Temuan ini menunjukkan bahwa bahkan dalam lingkungan penelitian ilmiah yang menuntut tingkat akurasi yang sangat tinggi, konten yang dibuat atau didukung oleh AI masih dapat mengandung ketidakakuratan serius jika tidak diverifikasi dengan cermat.

Selain menghasilkan data dan kutipan palsu, AI juga dapat dimanfaatkan untuk menghasilkan konten palsu secara daring. Pada akhir tahun 2025, Departemen Keamanan Siber dan Pencegahan Kejahatan Teknologi Tinggi Kepolisian Kota Hanoi menangani kasus yang melibatkan penggunaan AI untuk membuat video palsu Danau Hoan Kiem. Pelaku menggunakan teknologi AI untuk membuat gambar dirinya duduk di atas ular piton raksasa yang berenang di Danau Hoan Kiem, kemudian mengunggahnya ke media sosial untuk mendapatkan suka dan tayangan. Polisi menetapkan bahwa ini adalah konten palsu yang berdampak negatif pada citra situs bersejarah dan budaya serta landmark indah ibu kota tersebut.

Situasi ini bukanlah hal yang unik. Pada awal tahun 2026, Departemen Keamanan Siber dan Pencegahan Kejahatan Teknologi Tinggi Kepolisian Kota Ho Chi Minh juga memverifikasi dan menangani dua kasus penyebaran dan berbagi informasi palsu yang dibuat menggunakan AI. Sebelumnya, banyak artikel, gambar, dan video beredar di media sosial dengan konten "MC Quyen Linh diperintahkan untuk ditangkap dan ditahan oleh Kepolisian Kota Ho Chi Minh." Melalui verifikasi, pihak berwenang menetapkan bahwa ini adalah konten palsu sepenuhnya, yang dibuat menggunakan teknologi AI untuk memanipulasi opini publik ke arah negatif.

Menurut Dr. Nguyen Tuan Khang, Direktur Data dan AI di IBM ASEAN, AI dapat menghasilkan konten yang terdengar sangat masuk akal tetapi tidak selalu akurat. Ia berpendapat bahwa banyak organisasi saat ini berfokus pada kemampuan AI tanpa sepenuhnya menilai risiko yang terkait dengan keandalan outputnya.

Dr. Nguyen Tuan Khang menekankan bahwa meskipun kecerdasan membantu AI menarik perhatian, kepercayaan adalah faktor penentu apakah teknologi ini dapat diterapkan secara luas. Menurutnya, agar AI menjadi alat yang dapat diandalkan, perlu dipastikan kemampuan untuk menafsirkan hasil keluaran, transparansi dalam tata kelola data, dan akuntabilitas manusia.

"Apa pun yang dilakukan AI, pada akhirnya manusia akan tetap dimintai pertanggungjawaban," tegas Dr. Khang.

Perkembangan AI yang pesat menciptakan kebutuhan mendesak akan kerangka peraturan yang lebih baik, terutama mengingat aksesibilitasnya yang semakin meningkat dan kemampuannya untuk menciptakan gambar, video, dan audio palsu yang sangat canggih.

Menghadapi meningkatnya risiko dari disinformasi yang dihasilkan oleh AI, Vietnam secara bertahap menyempurnakan kerangka hukumnya untuk mengelola teknologi ini. Pada tanggal 10 Desember 2025, Majelis Nasional ke-15 mengesahkan Undang-Undang tentang Kecerdasan Buatan – undang-undang kerangka kerja pertama yang secara komprehensif mengatur penelitian, pengembangan, dan penerapan AI, yang berlaku efektif mulai 1 Maret 2026.

Undang-undang tersebut mengatur banyak tindakan terlarang, termasuk penggunaan unsur-unsur yang dibuat-buat atau disimulasikan dari orang dan peristiwa nyata untuk menipu dan memanipulasi persepsi dan perilaku masyarakat, sehingga merugikan hak dan kepentingan sah organisasi dan individu. Hal ini dianggap sebagai dasar hukum penting untuk menangani tindakan eksploitasi AI untuk menciptakan berita palsu, memutarbalikkan kebenaran, atau melanggar hak privasi di dunia maya.

Pihak berwenang meyakini bahwa jika disalahgunakan, AI dapat menjadi alat untuk penipuan, pencemaran nama baik, fitnah, atau gangguan informasi. Setiap tindakan memposting atau membagikan informasi palsu atau menyesatkan yang melanggar hak dan kepentingan hukum organisasi atau individu, atau memengaruhi keamanan dan ketertiban umum, dapat dituntut sesuai dengan hukum, tergantung pada sifat dan tingkat keparahan pelanggaran tersebut.

Mengingat situasi ini, pihak berwenang menyarankan masyarakat untuk secara proaktif memverifikasi informasi dari sumber resmi sebelum memposting atau membagikannya; membekali diri dengan keterampilan untuk mengidentifikasi gambar, audio, dan video yang dibuat menggunakan AI; dan segera melaporkan konten apa pun yang menunjukkan tanda-tanda palsu atau tidak benar sehingga pihak berwenang dapat memverifikasi dan menanganinya.