Indonesia AI Institute (IAII) bersama UN Women menyelenggarakan Expert Group Meeting bertema AI dan Perempuan yang mempertemukan para pakar, praktisi hukum, akademisi, perwakilan pemerintah, dan aktivis hak perempuan untuk mendiskusikan secara mendalam ancaman teknologi kecerdasan buatan terhadap keselamatan perempuan di ruang digital. Forum ini menjadi ruang penting untuk memetakan risiko, mengidentifikasi kesenjangan regulasi, dan mendorong kolaborasi lintas sektor dalam menghadapi tantangan yang terus berkembang.
Tren KBGO yang Terus Meningkat
Shinta Ressmy dari SAFEnet mengungkapkan tren yang mengkhawatirkan: kasus Kekerasan Berbasis Gender Online (KBGO) di Indonesia melonjak dari 900 kasus pada 2023, menjadi 1.300 di 2024, dan 2.300 di 2025. Kini, AI telah menjadi senjata barunya. Kasus deepfake pornografi saja mencapai 46 kasus hanya dalam tiga bulan pertama 2025, dengan alat yang kini bisa diakses siapa saja dengan biaya sangat murah.
Nenden Sekar Arum dan Nurul Fazrie menegaskan bahwa fenomena ini sulit ditangani karena belum ada kerangka hukum yang mampu menjangkau kejahatan berbasis AI secara menyeluruh. Fakta yang paling memprihatinkan: korban termuda tercatat berusia 6 tahun, platform global masih mengalihkan risiko ke pengguna, dan wajah public figure digunakan tanpa izin dalam konten digital.
Perempuan: Paling Terdampak, Paling Jarang Didengar
Data menunjukkan 60% korban kekerasan seksual berbasis teknologi adalah perempuan. Dwi Juliawati dari UN Women menyebut kondisi ini sebagai manifestasi pelanggaran HAM yang bersumber dari tata kelola yang tidak berjalan baik. Iim Fahima dari IAII menambahkan bahwa selama pengambil keputusan belum memiliki kesadaran yang memadai, perlindungan perempuan di ruang digital akan terus diabaikan.
Isu yang lebih mendasar turut disorot: mayoritas teknologi dibangun tanpa melibatkan perempuan. Padahal inklusi yang nyata bukan hanya soal siapa yang menggunakan teknologi, tetapi siapa yang membangun dan membuat kebijakannya.
Kesenjangan Hukum dan Literasi Digital
Di sisi regulasi, Dedy Permadi dari Kemenko PMK mencatat bahwa meski UU TPKS cukup progresif, implementasinya belum efektif. Banyak aparat memilih pasal yang lebih lemah, penyidik minim keahlian digital, dan belum ada kejelasan siapa yang bertanggung jawab atas kejahatan berbasis AI.
Dari sisi literasi, Derry Wijaya dari Monash University menegaskan bahwa pendidikan digital harus dimulai sejak dini. Maulana Akbar dari BRIN menambahkan bahwa tantangan ini terjadi di tiga level sekaligus: individu, masyarakat, dan pemerintah sementara AI terus berkembang jauh lebih cepat dari kesiapan semua pihak.