adla nur fadhila

Saat Wajah Kita Jadi Korban AI: Ancaman Baru HAM di Era Deepfake

Info Terkini | 2026-06-08 13:53:54

Perkembangan kecerdasan buatan (Artificial Intelligence atau AI) telah membawa perubahan besar dalam kehidupan manusia. Berbagai pekerjaan kini dapat dilakukan dengan lebih cepat dan efisien berkat bantuan teknologi AI. Namun, di balik berbagai manfaat tersebut, muncul tantangan baru yang mulai mengancam hak asasi manusia (HAM), yaitu penyalahgunaan teknologi deepfake. Deepfake merupakan teknologi yang memanfaatkan kecerdasan buatan untuk menciptakan video, gambar, atau suara palsu yang sangat menyerupai aslinya. Dengan teknologi ini, seseorang dapat dibuat seolah-olah mengatakan atau melakukan sesuatu yang sebenarnya tidak pernah terjadi. Menurut Naffi (2025), perkembangan media sintetis dan deepfake telah menciptakan kondisi di mana masyarakat semakin sulit membedakan antara realitas dan rekayasa digital.

Dalam perspektif HAM, penggunaan deepfake tanpa persetujuan individu dapat dianggap sebagai bentuk pelanggaran terhadap hak atas privasi, keamanan, dan perlindungan identitas diri. Wajah dan suara seseorang merupakan bagian dari identitas personal yang melekat pada martabat manusia. Ketika identitas tersebut dimanipulasi tanpa izin, maka yang dirugikan bukan hanya aspek privasi, tetapi juga kehormatan dan reputasi seseorang. Naffi (2025) menjelaskan bahwa deepfake tidak sekadar menyebarkan informasi palsu, melainkan mengikis mekanisme masyarakat dalam membangun pemahaman bersama mengenai kebenaran.

Ancaman deepfake bukan lagi sekadar kemungkinan yang akan terjadi di masa depan, melainkan telah menjadi kenyataan yang dihadapi berbagai negara, termasuk Indonesia. Pada Februari 2025, Bareskrim Polri mengungkap kasus penipuan yang menggunakan teknologi deepfake dengan mencatut wajah Presiden Prabowo Subianto dan Menteri Keuangan Sri Mulyani. Pelaku menggunakan video hasil rekayasa AI untuk meyakinkan masyarakat agar mengirimkan sejumlah uang dengan dalih program bantuan. Dari hasil penyelidikan, pelaku diketahui telah meraup keuntungan sekitar Rp65 juta dan menipu lebih dari 100 korban (Kompas TV, 2025; iNews, 2025).

Selain digunakan untuk penipuan, deepfake juga semakin sering dimanfaatkan untuk menyerang individu secara personal. Berbagai penelitian menunjukkan bahwa salah satu bentuk penyalahgunaan yang paling berkembang adalah pembuatan konten intim tanpa persetujuan korban (non-consensual intimate imagery). Korban umumnya merupakan perempuan yang fotonya diambil dari media sosial lalu dimanipulasi menggunakan AI. Menurut Raza (2026), sebagian besar dampak nyata deepfake saat ini justru berasal dari penipuan berbasis suara, manipulasi emosional, dan penyebaran konten intim tanpa persetujuan, bukan dari skenario politik besar yang selama ini banyak dikhawatirkan.

Data menunjukkan bahwa penyalahgunaan deepfake mengalami peningkatan yang sangat signifikan dalam beberapa tahun terakhir. Perusahaan verifikasi digital Sumsub melaporkan adanya peningkatan kasus deepfake global sebesar 245% pada tahun 2024 dibandingkan tahun sebelumnya. Lonjakan tersebut terjadi di berbagai negara yang menyelenggarakan pemilu, termasuk Indonesia. Kondisi ini menunjukkan bahwa teknologi AI semakin sering dimanfaatkan untuk penipuan, manipulasi informasi, dan kejahatan siber lainnya (Sumsub, 2024).

Bahaya deepfake semakin besar karena manusia pada dasarnya sulit membedakan antara konten asli dan konten hasil rekayasa AI. Survei yang dilakukan oleh Sippy, Enock, Bright, dan Margetts (2024) menunjukkan bahwa sebagian besar responden merasa khawatir terhadap penyebaran deepfake, sementara kemampuan mereka dalam mendeteksi konten palsu masih rendah. Lebih dari 90% responden menyatakan kekhawatiran bahwa deepfake dapat meningkatkan ketidakpercayaan terhadap informasi dan memengaruhi opini publik.

Di bidang demokrasi, keberadaan deepfake juga menimbulkan kekhawatiran tersendiri. Teknologi ini dapat digunakan untuk membuat video palsu yang menampilkan tokoh politik sedang menyampaikan pernyataan tertentu atau melakukan tindakan yang sebenarnya tidak pernah terjadi. UNESCO melalui kajian yang ditulis Naffi (2025) menyebut fenomena ini sebagai crisis of knowing, yaitu kondisi ketika masyarakat mengalami kesulitan menentukan mana informasi yang benar dan mana yang merupakan hasil manipulasi teknologi. Ketika kepercayaan terhadap bukti visual dan audio mulai menurun, maka fondasi demokrasi yang bergantung pada informasi yang akurat juga ikut terancam.

Indonesia sebenarnya telah memiliki sejumlah regulasi yang dapat digunakan untuk menangani penyalahgunaan teknologi digital, seperti Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) serta Undang-Undang Perlindungan Data Pribadi. Namun, perkembangan teknologi AI berlangsung jauh lebih cepat dibandingkan perkembangan regulasi. Oleh karena itu, diperlukan pembaruan kebijakan yang lebih spesifik mengenai penggunaan AI dan perlindungan identitas digital masyarakat. Selain penguatan regulasi, peningkatan literasi digital juga menjadi langkah penting agar masyarakat lebih kritis dalam menyikapi informasi yang beredar di ruang digital.

Pada akhirnya, isu deepfake menunjukkan bahwa perlindungan HAM di era digital tidak lagi terbatas pada perlindungan fisik dan kebebasan sipil semata. Hak atas identitas digital, privasi, keamanan informasi, dan perlindungan terhadap martabat manusia kini menjadi bagian penting dari hak asasi yang harus dijaga. Kemajuan teknologi memang tidak dapat dihentikan, tetapi penggunaannya harus tetap berada dalam koridor etika dan hukum. Jika tidak, masyarakat akan menghadapi situasi di mana wajah, suara, dan identitas mereka dapat digunakan oleh orang lain tanpa izin, sementara kebenaran menjadi semakin sulit dibedakan dari rekayasa teknologi.