Jakarta, GerhanaIndonesia – Kementerian Komunikasi dan Digital (Komdigi) merespons dengan tegas dugaan penyalahgunaan fitur kecerdasan buatan (AI) Grok AI pada platform media sosial X. Penyalahgunaan ini diduga kuat digunakan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa persetujuan pemiliknya. Tindakan ini dinilai sebagai pelanggaran serius terhadap privasi.
Kasus ini mencuat seiring dengan kekhawatiran publik terhadap dampak negatif teknologi AI. Komdigi telah melakukan penelusuran awal untuk menindaklanjuti laporan tersebut. Hasilnya, ditemukan beberapa celah yang perlu segera ditangani.
Respons Komdigi: Penyelidikan dan Langkah Awal
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, mengungkapkan hasil awal penelusuran. Ia menjelaskan bahwa Grok AI belum memiliki pengaturan yang memadai untuk mencegah produksi dan penyebaran konten pornografi berbasis foto asli warga negara Indonesia.
Also Read
Tindakan yang Diambil
Komdigi melakukan koordinasi intensif dengan Penyelenggara Sistem Elektronik (PSE) untuk memastikan adanya mekanisme perlindungan yang efektif. Langkah-langkah yang diambil meliputi:
- Penguatan sistem moderasi konten.
- Pencegahan pembuatan deepfake asusila.
- Prosedur penanganan cepat terhadap laporan pelanggaran privasi dan hak citra diri.
Alexander menekankan bahwa setiap PSE bertanggung jawab untuk memastikan teknologi yang mereka sediakan tidak menjadi alat untuk pelanggaran privasi, eksploitasi seksual, atau perusakan martabat seseorang.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” kata Alex dalam keterangannya.
Dampak dan Ancaman Hukum
Komdigi menilai manipulasi digital terhadap foto pribadi bukan hanya masalah kesusilaan, tetapi juga perampasan kontrol individu atas identitas visual. Hal ini dapat menimbulkan kerugian psikologis, sosial, dan reputasi bagi korban.
Komdigi juga mengingatkan PSE untuk mematuhi peraturan perundang-undangan di Indonesia. Jika ditemukan ketidakpatuhan atau kurangnya kooperatif, sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X bisa dijatuhkan.
Selain itu, penyedia layanan AI dan pengguna yang terbukti memproduksi atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa izin dapat menghadapi sanksi administratif dan/atau pidana sesuai hukum yang berlaku.
Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, konten pornografi diatur dalam Pasal 172 dan Pasal 407.
Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan. Sementara itu, Pasal 407 mengatur ancaman pidana penjara minimal 6 bulan dan maksimal 10 tahun, atau denda sesuai ketentuan.
Masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri dapat mengambil langkah hukum. Ini termasuk melaporkan ke aparat penegak hukum dan mengajukan pengaduan ke Kemkomdigi.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” pungkasnya.
