jok

    FOLLOW  

Kenapa Kita Semakin Sulit Membedakan 'Deepfake' atau Bukan 'Deepfake'?

Teknologi | Thursday, 28 Mar 2024, 13:32 WIB

FOTO, video, dan audio palsu menyebar secara online sebagai akibat dari meningkatnya dan penyalahgunaan alat kecerdasan buatan (AI). Dan kita pun semakin sulit membedakan mana yang nyata dan mana yang tidak.

Pembuat video dan gambar seperti DALL-E, Midjourney, dan Sora dari OpenAI memudahkan orang-orang dengan sedikit keterampilan teknis untuk membuat apa yang diistilahkan sebagai deepfakes.

Gambar palsu mungkin tampak tidak berbahaya. Namun, gambar-gambar itu dapat digunakan untuk menipu orang demi mendapatkan uang, mencuri identitas, menyebarkan propaganda, dan mempengaruhi pemilu secara tidak adil.

Setahun yang lalu, teknologi terkait hal ini masih jauh dari sempurna sehingga kita lebih mudah untuk mengetahui bahwa sebuah foto dibuat dengan AI. Gambar palsu dapat menunjukkan kesalahan yang jelas, seperti tangan dengan enam jari atau kacamata dengan bentuk berbeda.

Namun, seiring dengan kemajuan AI, hal tersebut menjadi jauh lebih sulit kita temukan.

Henry Ajder, pendiri perusahaan konsultan AI, Latent Space Advisory, dan pakar terkemuka dalam AI generatif, mengatakan bahwa saran seperti mencari gerakan mata yang tidak wajar pada orang-orang dalam video deepfake kini tidak lagi berlaku lagi.

Ajder mengatakan banyak foto deepfake AI, terutama foto manusia, memiliki “efek menghaluskan” yang membuat kulit terlihat sangat “halus”. Namun, dia memperingatkan bahwa AI terkadang dapat mengubah foto dan menghilangkan tanda-tanda penciptaan AI.

Lihatlah bayangan dan pencahayaan. Seringkali subjeknya jelas dan tampak hidup, namun elemen di bagian lain foto mungkin tidak tampak begitu nyata atau halus.

Salah satu deepfake yang paling umum adalah menukar satu wajah dengan wajah lainnya. Praktik ini disebut pertukaran wajah.

Para ahli menyarankan untuk melihat lebih dekat pada tepi wajah. Apakah warna kulit wajah cocok dengan bagian kepala atau badan lainnya? Apakah pinggiran wajah tajam atau tidak jelas?

Jika kalian mencurigai video seseorang yang berbicara telah diubah oleh AI, lihatlah mulutnya. Apakah gerakan bibir mereka selaras dengan audio dengan sempurna?

Perusahaan keamanan siber Norton mengatakan bahwa teknologinya belum siap untuk menciptakan gigi individu. Maka, Ajder menyarankan untuk melihat gigi mereka. Apakah jelas, atau tidak jelas dan apakah tampak seperti di kehidupan nyata?

Terkadang konteks foto itu penting. Luangkan waktu sejenak untuk mempertimbangkan apakah apa yang kalian lihat benar-benar terjadi.

Situs web jurnalisme Poynter menyarankan bahwa jika kalian melihat orang terkenal melakukan sesuatu yang tampaknya tidak realistis atau tidak seperti dirinya, itu mungkin sebuah kesalahan besar.

Cara lain untuk memastikan apakah foto maupun video itu palsu atau tidak adalah dengan menggunakan AI untuk melawan AI.

Microsoft telah mengembangkan alat yang dapat mempelajari foto atau video dan menilai apakah foto atau video itu sudah diubah. FakeCatcher dari perusahaan teknologi Intel menggunakan program komputer untuk mempelajari bagian terkecil dari sebuah gambar, yang disebut piksel, untuk mengetahui apakah itu asli atau palsu.

Namun, beberapa dari alat ini tidak tersedia untuk umum. Hal ini karena para peneliti tidak ingin membantu pelaku kejahatan memperbaiki deepfake mereka.

Meskipun demikian, AI telah berkembang sangat pesat. Dan model AI dilatih menggunakan data internet untuk menghasilkan konten yang lebih baik dengan lebih sedikit kesalahan.

Para ahli mengatakan mungkin berbahaya untuk menyarankan bahwa rata-rata orang dapat menemukan deepfake sekarang ini. Itu karena untuk mata yang terlatih sekali pun, hal ini menjadi semakin sulit dilakukan.***

Sumber: Associated Press, Voice of America

--