Kerentanan Perempuan dan Anak terhadap Penyalahgunaan AI dan Ancaman Deepfake

Parapuan.co - Di era kecanggihan teknologi digital, perempuan dan anak-anak menjadi kelompok paling rentan terhadap penyalahgunaan kecerdasan buatan (AI), terutama melalui teknologi deepfake. Visual yang tampak nyata namun sepenuhnya hasil rekayasa kini bertransformasi dari sekadar hiburan menjadi senjata yang mengancam keselamatan dan martabat manusia, terutama kelompok rentan.

Wakil Menteri Komunikasi dan Digital (Kemkomdigi) Nezar Patria menyampaikan keprihatinannya atas fenomena ini. Dalam keterangan resminya pada 26 Juli 2025 yang dikutip dari Kompas.com, ia menegaskan bahwa "konten manipulatif visual dan audio tidak hanya menyesatkan, tapi juga menyasar kelompok rentan seperti perempuan dan anak".

Pernyataan ini bukan tanpa dasar. Laporan dari Sensity AI yang melansir Monash University menunjukkan lonjakan 550 persen kasus deepfake sejak 2019, dan 90 persen di antaranya digunakan untuk tujuan berbahaya. Konten eksplisit hasil rekayasa yang memanfaatkan wajah perempuan dan anak—bahkan tanpa persetujuan mereka—telah menjadi ancaman global.

Perempuan dan Anak di Pusaran Kekerasan Digital

Kondisi ini sangat mengkhawatirkan. Teknologi deepfake kini tidak hanya digunakan untuk membuat parodi atau hiburan semata, tetapi juga untuk menciptakan konten seksual palsu dan mengeksploitasi wajah seseorang, terutama perempuan dan anak perempuan.

Laporan internasional menunjukkan bahwa 98 persen deepfake pornografi di internet mengeksploitasi perempuan dan anak perempuan, dan sebagian besar berasal dari foto polos yang diambil dari media sosial seperti Instagram atau Facebook.

"Yang paling terdampak adalah perempuan dan anak. Setidaknya 11 persen perempuan usia 15 sampai 29 tahun pernah mengalami kekerasan berbasis gender online sejak usia belia," tambah Nezar.

Fenomena ini diperparah dengan hadirnya aplikasi nudification, seperti DeepNude dan variannya, yang memungkinkan pelaku melepas pakaian digital dari foto seseorang hanya dengan beberapa klik. Banyak dari konten ini bahkan melibatkan anak di bawah umur, yang fotonya diambil dari platform publik.

Celah Hukum dan Tantangan Penegakan

Meski beberapa negara seperti Malaysia telah memiliki regulasi ketat terhadap Child Sexual Abuse Material (CSAM) yang dihasilkan AI, penegakan hukumnya masih lemah. Pelaku kerap bersembunyi di balik anonimitas dunia maya, menggunakan VPN, enkripsi, dan mata uang kripto. Bahkan, sistem pendeteksi konten lama seperti PhotoDNA tidak mampu mendeteksi konten AI karena tidak memiliki referensi visual dunia nyata.

Tantangan ini pun diakui Nezar Patria. Pihaknya mengatakan bahwa perkembangan teknologi membuka peluang besar, namun juga menciptakan celah ancaman yang bisa melemahkan kepercayaan masyarakat.

Komitmen untuk Perlindungan Digital

Menjawab tantangan tersebut, Kemkomdigi berkomitmen untuk menciptakan ruang digital yang aman bagi semua kalangan, dengan melakukan literasi digital serta tindakan hukum yang tegas. "Tidak hanya itu, kami juga melakukan takedown terhadap konten negatif, dan bekerja sama dengan aparat hukum untuk menindak kejahatan digital," ujar Nezar.

Ia menekankan pentingnya literasi digital sebagai keterampilan dasar. "AI seharusnya menjadi teman untuk berimajinasi dan berinovasi, bukan untuk membahayakan atau merugikan orang lain," katanya.

Langkah yang Perlu Diambil

Untuk melindungi perempuan dan anak-anak dari penyalahgunaan AI, langkah-langkah konkret harus diambil:

Edukasi dan literasi digital sejak usia dini, terutama tentang risiko berbagi foto dan data pribadi secara daring.
Pengembangan teknologi deteksi deepfake, seperti watermarking dan pelacakan metadata.
Kolaborasi internasional dalam memberantas jaringan penyebar konten deepfake.
Regulasi ketat terhadap platform digital dan pengembang AI agar bertanggung jawab terhadap penyalahgunaan teknologi mereka.

Ancaman dari penyalahgunaan AI, khususnya deepfake, bukan hanya persoalan teknologi, tetapi soal kemanusiaan. Jika tidak ditanggulangi secara serius, perempuan dan anak akan terus menjadi korban dalam ruang digital yang semakin tidak aman.

Seperti yang disampaikan Nezar Patria, literasi, regulasi, dan kolaborasi adalah kunci untuk menciptakan dunia digital yang tidak hanya canggih, tetapi juga berkeadilan dan aman bagi semua.

(*)