Pakar UGM Ingatkan Pentingnya Batasan dalam Penggunaan AI sebagai Teman Curhat

Fenomena penggunaan Artificial Intelligence (AI) sebagai tempat curhat semakin populer di kalangan anak muda. Banyak yang merasa nyaman berbagi cerita dan emosi kepada AI karena merasa tidak akan dihakimi. Namun, di balik kenyamanan ini, terdapat risiko yang perlu diwaspadai, mengingat AI tidak memiliki empati dan tidak dapat bertanggung jawab atas konsekuensi yang mungkin timbul.

Guru Besar Fakultas Teknik Universitas Gadjah Mada (UGM), Prof. Dr. Ir. Ridi Ferdiana, S.T., M.T., IPM., menjelaskan bahwa dari sudut pandang bisnis, penggunaan AI sebagai teman curhat memiliki potensi yang sangat strategis. Produk yang mampu menyentuh aspek personal diharapkan dapat diterima dan dipercaya oleh masyarakat.

“Dari sudut pandang bisnis, fenomena ini adalah posisi yang sangat strategis karena sebuah produk yang bisa menyentuh sampai level personal yang diharapkan dekat dengan keseharian manusia,” ujar Ridi pada Kamis (4/12).

Ridi menambahkan bahwa dari perspektif teknis, transformasi digital diharapkan dapat meningkatkan kesadaran masyarakat terhadap teknologi. Menurutnya, tidak ada yang salah dalam menggunakan AI sebagai teman bicara. Namun, penting untuk memahami bahwa chatbot AI tidak bisa menggantikan interaksi manusia yang sesungguhnya.

“Ini bukanlah suatu bentuk kepedulian melainkan hanya mekanisme menebak kata selanjutnya. AI bekerja dengan prinsip mesin pembelajaran, belajar dari data berkualitas yang telah diproses sebelumnya,” jelasnya. Ridi mengingatkan bahwa prinsip kerja AI adalah 'garbage in, garbage out'—jika data yang masuk buruk, maka hasil yang keluar juga akan buruk.

Teknologi saat ini terus berkembang, menuju AI yang dapat memiliki perasaan dan empati, dikenal sebagai agentic AI. Meskipun menawarkan banyak manfaat, Ridi menekankan pentingnya kebijakan penggunaan AI yang tepat. “AI itu seperti obat. Kalau digunakan berlebihan, bisa menimbulkan ‘keracunan’,” tuturnya.

Ia menekankan bahwa AI harus dirancang aman sejak awal, dengan memperhatikan prinsip Responsible AI, Ethical AI, dan Transparency AI. Hal ini penting untuk mencegah dampak negatif, termasuk risiko halusinasi atau kesalahan informasi. “Gunakan AI secukupnya. Sama seperti fitur screen time di smartphone, kita perlu membatasi diri ketika menggunakan AI sebagai ruang curhat. Jangan sampai bergantung sepenuhnya dan kehilangan kendali atas diri kita sendiri,” pesan Ridi.