Penyalahgunaan Grok AI Picu Kontroversi Global, DPR RI Desak Perlindungan Perempuan di Ruang Digital

Jakarta, Serikatnasional.id – Maraknya penyalahgunaan teknologi kecerdasan buatan (Artificial Intelligence/AI) untuk memanipulasi foto perempuan menjadi konten bernuansa seksual tanpa izin kembali menguji etika dan tanggung jawab di era digital. Praktik tersebut dinilai sebagai pelanggaran privasi, kekerasan berbasis gender online (KBGO), sekaligus bentuk kekerasan seksual modern.

Anggota DPR RI Fraksi PDI Perjuangan, Sarifah Ainun Jariyah, angkat suara terkait fenomena ini melalui unggahan video di akun Instagram pribadinya, Sabtu (10/1/2026).

Ia menegaskan bahwa tidak satu pun manusia pantas direndahkan martabatnya, apa pun latar belakangnya.

“Sebagai sesama perempuan, saya mengutuk keras praktik ini. Teknologi harus berpihak pada kemanusiaan, bukan melanggengkan pelecehan. Negara wajib hadir dengan regulasi tegas dan perlindungan nyata agar inovasi berjalan seiring dengan rasa aman,” tegas Sarifah, yang akrab disapa Teh Sarifah.

Ia menambahkan, perempuan Indonesia harus mendapatkan perlindungan, baik di dunia nyata maupun di ruang digital, dari segala bentuk kekerasan dan eksploitasi teknologi.

Kontroversi global ini mencuat seiring disalahgunakannya salah satu fitur AI yang terintegrasi dengan media sosial untuk memanipulasi foto perempuan menjadi gambar vulgar. Kasus tersebut pertama kali terungkap setelah musisi asal Brasil, Julie Yukari, mengunggah foto dirinya yang telah diedit oleh AI hanya beberapa menit setelah diunggah ke media sosial.

Tren tersebut kemudian menyebar ke berbagai negara, termasuk Indonesia. Sejumlah figur publik perempuan menjadi sasaran, di antaranya artis dan idol seperti member JKT48. Beberapa korban, seperti Freya Jayawardana, menyuarakan keresahannya, sementara musisi Bernadya turut mengkritik keras penyalahgunaan teknologi tersebut.

Fenomena ini menimbulkan dampak serius, mulai dari pelanggaran privasi dan consent hingga trauma psikologis. Korban kerap merasa direndahkan dan takut membagikan foto di ruang publik digital. Data global menunjukkan bahwa 98–99 persen korban KBGO adalah perempuan, termasuk artis, jurnalis, hingga anak-anak.

Bahkan, sejumlah kasus melibatkan anak di bawah umur berusia 12–14 tahun yang fotonya dimanipulasi dengan teknologi deepfake, sehingga memicu investigasi pemerintah di berbagai negara seperti Uni Eropa, Inggris, Australia, India, Malaysia, dan Prancis.

Menurut Teh Sarifah, tantangan utama dalam persoalan ini adalah minimnya regulasi global terhadap AI, di mana sebagian perusahaan teknologi lebih mengutamakan inovasi dibandingkan aspek keamanan dan perlindungan pengguna.

“Sebagai seorang perempuan dan seorang ibu, tren ini sangat disayangkan. Bayangkan foto-foto perempuan yang sedang bekerja keras, berkarya, atau sekadar berbagi momen bahagia, diubah secara paksa dan keji menjadi konten asusila,” ujarnya.

Ia menegaskan berdiri bukan hanya sebagai wakil rakyat, tetapi juga sebagai sesama perempuan yang merasakan kemarahan dan keresahan korban.

“Kita tidak boleh menoleransi satu inci pun tindakan yang merendahkan martabat perempuan demi kepuasan nafsu oknum pengecut di balik layar,” tambahnya.

Sarifah mendesak pemerintah Indonesia segera memastikan penggunaan AI yang bertanggung jawab, mempercepat perlindungan hukum bagi korban, serta menjatuhkan sanksi tegas terhadap pelaku penyalahgunaan teknologi.

“Jangan sampai inovasi teknologi justru berubah menjadi alat pelecehan. Perempuan Indonesia harus dilindungi dari ancaman digital ini,” pungkasnya.(DW)