Jakarta, GerhanaIndonesia – Kementerian Komunikasi dan Digital (Komdigi) memberikan peringatan keras kepada Grok AI dan X. Keduanya terancam sanksi administratif bahkan pemutusan akses jika terbukti melanggar aturan yang berlaku di Indonesia.
Ancaman ini muncul sebagai respons atas dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X. Diduga, fitur tersebut digunakan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa izin.
Peringatan Keras Komdigi
Dirjen Pengawasan Ruang Digital Komdigi, Alexander Sabar, menegaskan bahwa X sebagai Penyelenggara Sistem Elektronik (PSE) wajib mematuhi peraturan perundang-undangan di Indonesia. Komdigi tidak main-main dalam menegakkan aturan di dunia digital.
Also Read
Sanksi Menanti Pelanggar
Penyedia layanan AI dan pengguna yang terbukti terlibat dalam produksi atau penyebaran konten pornografi dan manipulasi citra pribadi tanpa hak dapat menghadapi sanksi administratif dan/atau pidana sesuai hukum yang berlaku.
Komdigi telah mengingatkan bahwa ruang digital bukanlah wilayah tanpa hukum. Privasi dan hak atas citra diri setiap warga negara harus dihormati dan dilindungi.
Landasan Hukum dan Upaya Hukum Korban
Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang berlaku sejak 2 Januari 2026, mengatur tentang konten pornografi dalam Pasal 172 dan Pasal 407.
Definisi Pornografi dan Ancaman Pidana
Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan. Sementara itu, Pasal 407 mengatur ancaman pidana penjara paling singkat 6 bulan dan paling lama 10 tahun atau denda.
Masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri, dapat mengambil langkah hukum. Hal ini bisa dilakukan melalui mekanisme yang tersedia dalam peraturan perundang-undangan.
Alexander Sabar juga menyebutkan bahwa masyarakat dapat melaporkan ke aparat penegak hukum dan mengadu ke Komdigi.
Imbauan Komdigi
Komdigi mengimbau kepada seluruh pihak untuk menggunakan teknologi kecerdasan buatan secara bertanggung jawab.
Berikut pernyataan langsung dari Alexander Sabar:
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,”
Temuan Awal Terkait Grok AI
Penelusuran awal menunjukkan bahwa Grok AI belum memiliki pengaturan yang memadai untuk mencegah produksi dan penyebaran konten pornografi berbasis foto asli warga negara Indonesia.
Kondisi ini berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image), terutama ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan.
Alexander juga menyampaikan mengenai temuan awal Grok AI
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,”
Komdigi menekankan bahwa manipulasi digital terhadap foto pribadi bukan hanya masalah kesusilaan. Ini adalah bentuk perampasan kendali individu atas identitas visual, yang dapat menyebabkan kerugian psikologis, sosial, dan merusak reputasi.
Upaya Komdigi untuk Perlindungan
Komdigi berkoordinasi dengan PSE untuk memastikan adanya mekanisme perlindungan yang efektif.
Langkah-langkah yang Diambil
Langkah-langkah tersebut meliputi penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.
Komdigi menegaskan bahwa setiap PSE wajib memastikan teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang.
