Ferlin Fatikasari - Mahasiswa Unair
Dari Tren Seru Jadi Ancaman: Gelapnya Teknologi AI Manipulasi Foto
Teknologi | 2025-11-12 13:32:49
Di era sekarang, teknologi Artificial Intelegent (AI) memiliki pengaruh yang sangat besar terhadap kehidupan manusia. Artificial Intelegent (AI) atau Kecerdasan Buatan adalah sebuah teknologi yang memungkinkan mesin untuk berpikir, belajar, dan memecahkan masalah seperti manusia. Teknologi ini tidak hanya mempermudah pekerjaan, tetapi juga mengubah cara kita berinteraksi, belajar, dan mengambil keputusan dalam berbagai aspek kehidupan. Seiring berkembangnya zaman, penggunaan AI semakin merata dan menjadi bagian dari aktivitas harian yang bahkan tidak kita sadari, seperti filter pada media sosial hingga rekomendasi konten dalam aplikasi hiburan.
Saat ini, AI telah memasuki hampir seluruh sektor kehidupan, termasuk industri kreatif. Karya, seperti poster, animasi, dan ilustrasi dapat dengan mudah kita buat dengan AI. Cukup dengan menuliskan perintah terkait detail karya yang ingin kita buat, AI sudah secara langsung memberikan hasil karyanya. Teknologi ini memudahkan siapa pun untuk menjadi kreator tanpa harus memiliki keterampilan desain yang mendalam. Bahkan, akhir-akhir ini muncul tren di media sosial bahwa hanya dengan AI kita bisa membuat foto seolah-olah bersama dengan idola kita. Tren ini sangat populer di kalangan anak muda karena dianggap sebagai hiburan yang menyenangkan dan mudah diakses, terutama melalui aplikasi berbasis kecerdasan buatan (AI) yang memungkinkan pengguna membuat foto seolah sedang berpose bersama artis atau tokoh idola mereka.
Namun, kemajuan tersebut memungkinkan manipulasi wajah yang lebih serius atau dikenal dengan deepfake. Secara umum, deepfake berarti teknologi manipulasi video dan audio yang menggunakan kecerdasan buatan untuk menciptakan konten yang membuat orang terlihat atau terdengar melakukan hal-hal yang sebenarnya tidak dilakukan. Teknologi ini muncul pada tahun 2017 dan terus berkembang hingga sekarang, dengan kualitas hasil yang semakin sulit dibedakan dari konten asli. Dengan deepfake, wajah seseorang bisa ditempatkan ke konten video atau foto tanpa izin. Hal ini membuat tren yang awalnya terlihat tidak berbahaya bisa berpotensi merugikan, baik dari sisi psikologis maupun sosial. Tidak hanya itu, penyebaran konten palsu tersebut dapat berdampak pada reputasi korban dan bahkan memicu konflik yang lebih besar dalam masyarakat.
Kasus nyata dari penyalahgunaan deepfake ini salah satunya terjadi di Indonesia, nama SMA 11 Semarang sontak menjadi sorotan karena seorang alumni bernama Chiko Radityatama Agung Putra diduga memanfaatkan teknologi AI, khususnya deepfake, dengan menggunakan foto dari para siswi serta salah satu guru untuk konten pornografi lalu menyebarkannya ke platform media sosial X. Menurut pengacara korban, terdapat 1.100 file yang disimpan oleh Chiko dalam aksinya. Kasus ini menimbulkan dampak psikologis kepada korban serta kekhawatiran banyak orang terkait keamanan data pribadi mereka. Peristiwa ini menunjukan kemudahan AI yang disalahgunakan, deepfake tidak hanya sekedar beresiko pada selebriti saja, tetapi juga bisa terjadi di lingkungan biasa dan menyasar individu biasa tanpa persetujuan mereka. Kasus tersebut menjadi alarm bahwa siapa saja dapat menjadi korban dan ancaman itu semakin dekat dengan kehidupan kita sehari-hari.
Selain risiko dijadikan konten eksplisit, terdapat bahaya lain yang sering luput dari perhatian banyak orang. Foto yang pengguna unggah dalam aplikasi AI bisa disimpan, diproses, atau bahkan digunakan tanpa sepengetahuan dan persetujuan pemilik wajah. Sebuah penelitian biometrik menunjukan bahwa foto yang anda unggah di platform daring bisa beresiko digunakan untuk pembuatan identitas palsu, bahkan manipulasi data digital untuk kepentingan komersial. Tidak sedikit perusahaan yang menjadikan data wajah sebagai aset untuk pengembangan teknologi mereka. Dengan hal tersebut, dapat disimpulkan tren deepfake AI dapat membuka risiko jika data tidak dikelola secara hati-hati.
Fenomena ini juga dapat dijadikan sebagai bahan pembelajaran tentang etika dan dampak sosial. Banyak remaja yang melihat tren berbagi foto di AI sebagai hiburan. Jika tidak dilakukan secara bijak, hal ini bisa berbahaya. Dampak seperti penyalahgunaan wajah, pencurian identitas, dan perusakan nama baik dapat menjadi umpan balik kepada korban. Banyak studi juga menyebutkan bahwa manusia cenderung sulit untuk membedakan gambar asli dan manipulasi AI, sehingga konten deepfake bisa menipu audiens dan memperluas dampak negatifnya. Bahkan, suatu saat teknologi ini bisa digunakan untuk penyebaran hoaks tingkat tinggi yang dapat memengaruhi opini publik atau bahkan stabilitas politik.
Kasus yang terjadi di SMA 11 Semarang merupakan contoh nyata, dimana AI memiliki sisi positif dan negatif yang memengaruhi kehidupan manusia. Melalui kasus ini juga, menunjukan bahwa edukasi mengenai literasi digital menjadi kebutuhan yang tidak bisa ditunda lagi. Banyak anak muda yang menggunakan teknologi tanpa memahami risiko yang ditimbulkan mengenai data pribadi nya. Seringkali, mereka hanya berfokus pada hiburan dan tren, tetapi melupakan bahwa setiap foto yang diunggah di media sosial akan selalu meninggalkan jejak selamanya. Literasi digital yang kuat dapat membantu masyarakat lebih selektif dalam memberikan akses data kepada aplikasi atau platform yang belum jelas keamanannya.
Oleh karena itu, edukasi mengenai waspada keamanan pribadi dan hak privasi harus mulai digencarkan kepada generasi muda. Tidak hanya di sekolah, peran lingkungan sekitar seperti orang tua dan masyarakat juga memiliki peran yang krusial dalam menumbuhkan kesadaran bijak dalam penggunaan teknologi. Pengawasan dan komunikasi yang terbuka diperlukan agar remaja lebih berani bercerita jika mengalami ancaman digital. Dengan kerja sama antara keluarga, sekolah, dan komunitas, risiko penyalahgunaan teknologi dapat diminimalkan.
Pengembang teknologi tersebut juga harus menetapkan aturan keamanan yang lebih baik. Beberapa perusahaan sudah mengembangkan sistem pendeteksi deepfake dan watermark pada wajah untuk mengurangi risiko penyalahgunaan foto. Selain itu, pemerintah juga diharapkan hadir dalam bentuk regulasi yang jelas untuk melindungi hak dan keamanan masyarakat dari kejahatan digital. Meskipun Langkah tersebut belum sempurna, ini menjadi harapan untuk mengurangi penyalahgunaanya.
Pada akhirnya, kemajuan teknologi tidak bisa kita hindari. Namun, kita harus memiliki kewaspadaan mandiri dalam menggunakannya. Jika digunakan dengan bijak, AI dapat menjadi alat kreatif yang membantu hidup kita. Akan tetapi jika disalahgunakan, AI dapat berubah menjadi ancaman yang merusak hidup seseorang. Oleh karena itu, sangat penting bagi setiap individu untuk berpikir dua kali sebelum mengunggah atau menggunakan foto orang lain, karena dunia digital tidak pernah melupakan jejak yang kita tinggalkan.
Disclaimer
Retizen adalah Blog Republika Netizen untuk menyampaikan gagasan, informasi, dan pemikiran terkait berbagai hal. Semua pengisi Blog Retizen atau Retizener bertanggung jawab penuh atas isi, foto, gambar, video, dan grafik yang dibuat dan dipublished di Blog Retizen. Retizener dalam menulis konten harus memenuhi kaidah dan hukum yang berlaku (UU Pers, UU ITE, dan KUHP). Konten yang ditulis juga harus memenuhi prinsip Jurnalistik meliputi faktual, valid, verifikasi, cek dan ricek serta kredibel.
