Mohamad Nur Ma'arif
Asusila Deepfake Grok AI dan Jaminan Perlindungan Sosial yang Masih Kurang
Agama | 2026-01-27 21:42:32
Grok AI adalah chatbot AI dari perusahaan xAI milik Elon Musk. Grok dilengkapi fitur dengan kemampuan manipulasi foto yang memungkinkan pengguna mengubah identitas visual seseorang melalui perintah teks (prompt) tanpa seizin pemilik foto.
Grok dapat digunakan untuk perintah menghilangkan atau mengubah pakaian seseorang dalam foto sehingga menjadi konten asusila. Selanjutnya foto hasil manipulasi tersebut bisa diakses oleh khalayak umum di platform X karena dua platform tersebut terintegrasi.
Temuan deepfake (konten media palsu yang dibuat menggunakan AI) yang diproduksi menggunakan Grok muncul di berbagai negara dengan mayoritas korban adalah perempuan dan anak-anak. Protes pun bermunculan dari berbagai negara terhadap Grok AI dan X. Beberapa negara memblokir Grok AI, seperti Indonesia dan Malaysia. Sedangkan India mendesak X untuk menghapus ribuan unggahan dan ratusan akun yang memuat gambar rekayasa Grok. Di Eropa dan AS juga muncul gelombang tekanan terhadap Grok.
Menteri Komunikasi dan Digital Meutya Hafid menyatakan pemutusan akses sementara ini merupakan bentuk perlindungan negara terhadap warga negara, khususnya perempuan dan anak, dari ancaman kekerasan gender berbasis online (KGBO). Dalam pernyataan resminya ia mengungkapkan, pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.
Setelah menghadapi gelombang protes ini, X akhirnya menerapkan langkah-langkah secara teknologi untuk mencegah akun Grok mengedit gambar-gambar hingga tampak tidak senonoh. Hanya pengguna berbayar yang bisa mengedit dengan Grok, tetapi sudah disertai proteksi tambahan agar tidak disalahgunakan untuk memproduksi gambar tidak senonoh. Namun, pembatasan itu hanya dilakukan di wilayah hukum yang menyatakan rekayasa gambar seperti itu sebagai tindakan ilegal.
*Bahaya Serius Kapitalisasi Ruang Digital*
Kasus Grok AI merupakan kejahatan asusila. Korban yang mayoritas perempuan dan anak-anak mengalami pelecehan dan kekerasan seksual di ruang digital. Gambar dan video yang menampilkan “seolah-olah” aurat mereka tersebar di dunia maya, menjangkau seluruh dunia dan dilihat oleh jutaan orang. Kejadian seperti ini tentu menjadikan korban malu, kehilangan kepercayaan diri, depresi, bahkan bisa berujung bunuh diri.
Namun, kasus Grok AI ini bukan kejadian tunggal. Sejumlah kasus telah terjadi sebelumnya dengan melibatkan berbagai platform digital, tetapi konsisten menyasar perempuan dan anak-anak. Lembaga National Center for Missing and Exploited Children (NCMEC) mencatat lebih dari 500.000 laporan sextortion (bentuk pemerasan disertai ancaman oleh pelaku untuk menyebarkan foto/video asusila korban) yang menargetkan anak-anak pada 2024. Sejak 2021, ada 20 remaja di AS yang mengakhiri hidupnya akibat sextortion. Sementara itu, UNICEF mencatat bahwa 1 dari 3 anak di dunia pernah terpapar konten tidak pantas di internet.
Di Indonesia, kondisinya tidak jauh berbeda. Dari hasil Survei Pengalaman Hidup Perempuan Nasional (SPHPN) 2024, terungkap bahwa terjadi peningkatan signifikan kekerasan berbasis gender online (2.866 laporan), hampir dua kali lipat dari tahun sebelumnya. Laporan Komisi Perlindungan Anak Indonesia (KPAI) menunjukkan bahwa pada 2021—2023 terdapat 481 kasus anak menjadi korban pornografi dan kejahatan siber.
Banyaknya kasus kejahatan asusila di ruang digital tidak lepas dari longgarnya desain keamanan yang dirancang oleh platform. Ketika membuat sebuah fitur, seharusnya platform sudah melengkapinya dengan desain pengamanan sehingga tidak terjadi kasus pelecehan, kekerasan, dan kejahatan. Ketika platform hanya meluncurkan fitur, tetapi abai terhadap upaya pengamanannya, sesungguhnya ini adalah pelanggaran terhadap hak pengguna. Keamanan dan kehormatan pengguna harus dihormati dan dilindungi oleh platform. Ini merupakan aspek mendasar dalam bisnis digital.
Namun, pandangan kapitalistik lebih mendominasi platform daripada tanggung jawabnya terhadap keamanan pengguna. Terjadilah kapitalisasi ruang digital. Platform getol merilis fitur baru untuk mengejar keunggulan kompetitif di hadapan para pesaing. Grok terus berinovasi untuk menyaingi ChatGPT, Google Gemini, dan platform chatbot AI lainnya. Demi penguasaan pasar dan—tentu saja—cuan, keamanan pengguna diabaikan. Bahkan, Elon Musk telah mempromosikan Grok sebagai chatbot yang lebih “menyenangkan dan tidak sopan” dibandingkan chatbot lain. Jika branding yang diusung sudah demikian liberal, perlindungan keamanan macam apa yang bisa diharapkan pengguna?
Kapitalisasi ruang digital ini berkelindan dengan lemahnya keimanan sebagian individu pengguna platform. Platform menyediakan fitur yang longgar, sedangkan sebagian pengguna suka mencari celah untuk membuat konten asusila dan mencari keuntungan materiel darinya. Kedua belah pihak—produsen dan sebagian konsumen—sama-sama sekuler kapitalistik, sedangkan pengguna secara umum (masyarakat) menjadi korbannya. Ini tentu berbahaya dan harus ditangani secara serius.
Di sinilah seharusnya negara hadir dengan aturan yang tegas dan sanksi yang menjerakan. Sayang, negara dalam sistem kapitalisme tidak memiliki watak raa’in (pengurus rakyat), tetapi sekadar regulator yang membuat aturan, tanpa memastikan pemenuhan hak-hak rakyat. Negara memang membuat aturan terkait keamanan di ruang digital, tetapi aturan itu tidak tegas menindak tindak asusila yang terjadi di dunia maya.
Regulasi yang pemerintah buat untuk perlindungan keamanan di ruang digital adalah UU 27/2022 tentang Pelindungan Data Pribadi (UU PDP) dan PP 17/2025 tentang Tata Kelola Penyelenggaraan Sistem Elektronik dalam Perlindungan Anak (PP TUNAS). Namun, fakta di lapangan menunjukkan lemahnya posisi negara karena sanksi yang tidak tegas dalam regulasi tersebut. Contohnya, terkait adanya konten bermuatan pornografi di X pada akhir 2025, negara hanya memberikan sanksi sebesar Rp80 juta, bukan pemblokiran terhadap platform tersebut yang tentunya lebih menunjukkan ketegasan dan perlindungan terhadap rakyat.
Pemblokiran platform memang sulit dilakukan oleh negara kapitalis karena negara mengandalkan pemasukan pajak dari perusahaan platform tersebut. Sebagai negara kapitalis yang telah menyerahkan kekayaan alam dan harta milik umum kepada swasta, Indonesia harus menggenjot pajak demi menyelamatkan APBN dari defisit yang terlalu besar. Ini membuat daya tawar negara di hadapan platform menjadi lemah. Ini tampak dari sikap X yang ogah-ogahan membayar denda hingga baru pada peringatan yang ketiga kewajiban tersebut dipenuhi.
Sikap negara ini mencerminkan watak kapitalistik yang mementingkan keuntungan ekonomi, yaitu pemasukan negara dari penyelenggara sistem elektronik (PSE), bukan mengedepankan perlindungan terhadap konsumen. Sikap ini merupakan pengabaian terhadap hak publik terhadap jaminan keamanan di ruang digital. Jadilah dalam kapitalisme, jaminan keamanan digital hanya setengah hati, yaitu dilakukan demi keuntungan ekonomi, bukan melindungi publik.
*Jaminan Keamanan Digital Terwujud Nyata dalam Sistem Islam*
Berbeda dengan kapitalisme yang mengutamakan keuntungan materi di atas keamanan rakyat, Islam menjadikan keamanan rakyat—termasuk di dunia maya—sebagai kebutuhan dasar yang harus dipenuhi negara. Allah Taala memberikan rasa aman pada hamba-Nya. Ini sebagaimana firman-Nya,
فَلْيَعْبُدُوا رَبَّ هَذَا الْبَيْتِ (3) الَّذِي أَطْعَمَهُمْ مِنْ جُوعٍ وَآَمَنَهُمْ مِنْ خَوْفٍ (4)
“Maka hendaklah mereka menyembah Tuhan Pemilik rumah ini (Ka’bah). Yang telah memberi makanan kepada mereka untuk menghilangkan lapar dan mengamankan mereka dari ketakutan.” (QS Quraisy [106]: 1—4).
Rasulullah saw. bersabda,
مَنْ أَصْبَحَ مِنْكُمْ آمِنًا فِى سِرْبِهِ مُعَافًى فِى جَسَدِهِ عِنْدَهُ قُوتُ يَوْمِهِ فَكَأَنَّمَا حِيزَتْ لَهُ الدُّنْيَا
“Barang siapa di antara kalian mendapatkan rasa aman di rumahnya (pada diri, keluarga, dan masyarakatnya), diberikan kesehatan badan, dan memiliki makanan pokok pada hari itu di rumahnya, maka seakan-akan dunia telah terkumpul pada dirinya.”(HR Tirmidzi no.2346, Ibnu Majah no.4141).
Negara Khilafah akan menjamin dan memprioritaskan keamanan rakyat di ruang digital karena negara dalam sistem Islam adalah perisai (junnah) pelindung rakyat. Rasulullah saw. bersabda,
إِنَّمَا الْإِمَامُ جُنَّةٌ يُقَاتَلُ مِنْ وَرَائِهِ وَيُتَّقَى بِهِ
”Sesungguhnya al-imam (khalifah) itu perisai yang (orang-orang) akan berperang mendukungnya dan berlindung (dari musuh) dengan (kekuasaan)-nya.” (HR Muttafaqun ’alayh).
Teknologi digital terkategori madaniyah umum. Madaniyah adalah segala bentuk materi (fisik) yang terindra. Sedangkan madaniyah umum adalah madaniyah yang merupakan hasil dari ilmu pengetahuan dan industri. Ini adalah bentuk-bentuk madaniyah yang bersifat universal yang dalam pengambilannya tidak perlu memperhatikan sesuatu apa pun (tidak memperhatikan siapa dan dari mana asal benda-benda tersebut), karena hal tersebut tidak terlahir dari sebuah hadharah (sekumpulan persepsi tentang kehidupan) dan sama sekali tidak berhubungan dengan hadharah.
Dengan demikian, teknologi digital mubah (boleh) dimanfaatkan dalam kehidupan. Namun, isi ruang digital tidak bebas nilai. Ia terkategori madaniyah khusus, yaitu madaniyah yang berhubungan dengan hadharah yang sekaligus menjadi sebuah elemen dari hadharah. Madaniyah semacam ini adalah segala bentuk madaniyah bersifat materi yang lahir dari satu sudut pandang kehidupan. (Syekh Muhammad Husain Abdullah, Fikrul Islam).
Berbagai konten yang ada di media digital mencerminkan ideologi tertentu. Saat ini kapitalisme sedang mendominasi dunia sehingga konten media digital mayoritas sekuler kapitalistik. Oleh karenanya, keberadaan media digital diperbolehkan dalam sistem Islam, tetapi Khilafah akan melindungi rakyatnya dengan memastikan tidak ada konten tidak islami yang beredar di internet, termasuk medsos.
Media digital dalam sistem Islam menjalankan dua peran, yaitu pelindung sekaligus filter umat dari ide-ide kufur dan alat propaganda dakwah Islam. Sebagai pelindung, media digital tidak boleh menayangkan konten yang bermuatan ide kufur, seperti sekularisme, pluralisme, sinkretisme, liberalisme, kapitalisme, ateisme, sosialisme, dll. Sedangkan sebagai alat propaganda dakwah Islam, media digital berperan aktif mengaruskan tsaqafah Islam dan konten edukatif seperti sainstek sehingga mendukung pembentukan SDM yang berkepribadian Islam.
Ini sejalan dengan maqashidu syariah (maksud diberlakukannya syariat), yaitu hifzhu ad-din (menjaga agama) dan hifzhu al-aql (menjaga akal). Khilafah akan mencegah masuknya konten yang merusak akal dan agama, seperti konten pornografi; gaya hidup sekuler liberal; ajakan pada keharaman seperti miras, judi, dan riba; konten nirfaedah; dll.
Mekanisme Khilafah melindungi ruang digital dari keburukan adalah dengan mewujudkan kedaulatan digital, yaitu membangun infrastruktur internet secara mandiri sehingga tidak dikuasai oleh pihak asing. Dengan demikian, tidak akan ada konten tidak islami yang masuk ke Khilafah. Meski demikian, negara Khilafah tetap melakukan pengawasan terhadap aktivitas di dunia digital dengan mengerahkan Da’irah I’lamiyah (Departemen Penerangan) yang bekerja sama dengan polisi (syurthah) siber yang merupakan bagian dari Da’irah Amni Dakhili (Departemen Keamanan Dalam Negeri).
Negara memiliki dana yang mencukupi untuk membangun infrastruktur digital secara mandiri sehingga terwujud kedaulatan digital. Dana tersebut berasal dari baitulmal, utamanya dari pos harta milik umum. Ini karena harta milik umum—yaitu kekayaan alam seperti tambang migas dan mineral, hutan, laut, sungai, gunung, dll.—dikelola oleh negara untuk kemakmuran rakyat, tidak diserahkan pada swasta, apalagi asing.
Individu rakyat Khilafah boleh mendirikan platform media digital, tetapi negara akan mengawasi kontennya. Jika ada konten yang bertentangan dengan Islam, negara akan memberi sanksi tegas, termasuk penutupan/pemblokiran platform tersebut. Syekh Taqiyuddin an-Nabhani menjelaskan dalam Masyru’ ad-Dustur pasal 104, “Pemilik dan pemimpin redaksi media bertanggung jawab terhadap semua isi informasi yang disebarkan. Mereka dimintai tanggung jawab terhadap setiap bentuk penyimpangan terhadap akidah dan syariat, sebagaimana warga negara lainnya.”
Rakyat bisa melaporkan pelanggaran syariat ini pada kadi hisbah, selanjutnya kadi akan melakukan proses peradilan dan memberi sanksi tegas pada pemilik media jika terbukti bersalah melanggar syariat. Rakyat yang bertakwa dan kritis ini dibentuk melalui sistem pendidikan yang berasaskan akidah Islam dan bertujuan mencetak generasi berkepribadian Islam.
Hasilnya adalah individu-individu rakyat yang bertakwa yang menggunakan media digital sesuai syariat dan tidak tergoda menggunakannya untuk kemaksiatan. Rakyat justru turut mengawasi media yang ada agar sesuai syariat. Individu rakyat yang terbukti menyebarkan konten yang tidak sesuai syariat, misalnya pornografi, juga akan diberi sanksi tegas dan menjerakan.
Pihak asing dilarang (diblokir) masuk ke ruang digital Khilafah. Hal ini dilandasi pemahaman bahwa musuh-musuh Islam akan selalu mencari celah untuk merusak dan mendominasi umat Islam. Allah Taala berfirman,
وَلَنْ تَرْضَىٰ عَنْكَ الْيَهُودُ وَلَا النَّصَارَىٰ حَتَّىٰ تَتَّبِعَ مِلَّتَهُمْ ۗ قُلْ إِنَّ هُدَى اللَّهِ هُوَ الْهُدَىٰ ۗ وَلَئِنِ اتَّبَعْتَ أَهْوَاءَهُمْ بَعْدَ الَّذِي جَاءَكَ مِنَ الْعِلْمِ ۙ مَا لَكَ مِنَ اللَّهِ مِنْ وَلِيٍّ وَلَا نَصِيرٍ
“Orang-orang Yahudi dan Nasrani tidak akan senang kepada kamu hingga kamu mengikuti millah mereka.”(QS Al-Baqarah [2]: 120).
Allah Taala juga berfirman,
وَلَنْ يَّجْعَلَ اللّٰهُ لِلْكٰفِرِيْنَ عَلَى الْمُؤْمِنِيْنَ سَبِيْلًا
“Allah tidak akan memberi jalan kepada orang-orang kafir untuk mengalahkan orang-orang mukmin.” (QS An-Nisa [4]: 141).
Khilafah tidak akan memberi peluang sedikit pun masuknya ide-ide kufur dari media asing. Khilafah bisa bersikap tegas karena tidak ada konflik kepentingan berupa pemasukan pajak. Negara tidak butuh pemasukan pajak dari perusahaan media asing karena sumber pemasukan baitulmal Khilafah sudah sangat besar dan mencukupi untuk pembangunan negara sehingga pajak bukan pemasukan utama. Pajak hanya dipungut jika kas negara kosong, sedangkan ada kebutuhan yang urgen dan mendesak. Pemungutan pajak juga hanya dilakukan pada warga negara muslim, bukan perusahaan asing.
Dengan perlindungan paripurna ini, rakyat Khilafah akan nyata-nyata terjamin keamanannya di ruang digital. Wallahualam bissawab.
Disclaimer
Retizen adalah Blog Republika Netizen untuk menyampaikan gagasan, informasi, dan pemikiran terkait berbagai hal. Semua pengisi Blog Retizen atau Retizener bertanggung jawab penuh atas isi, foto, gambar, video, dan grafik yang dibuat dan dipublished di Blog Retizen. Retizener dalam menulis konten harus memenuhi kaidah dan hukum yang berlaku (UU Pers, UU ITE, dan KUHP). Konten yang ditulis juga harus memenuhi prinsip Jurnalistik meliputi faktual, valid, verifikasi, cek dan ricek serta kredibel.
