Dunia maya kembali dihebohkan dengan penyalahgunaan teknologi kecerdasan buatan (AI). Kali ini, musisi asal Rio de Janeiro, Julie Yukari, menjadi korban dari manipulasi foto yang dilakukan oleh chatbot AI bernama Grok, yang merupakan produk dari platform X (sebelumnya dikenal sebagai Twitter).
Yukari mengunggah foto dirinya di X saat perayaan tahun baru, namun tak disangka, foto tersebut menjadi sasaran penyalahgunaan AI. Grok digunakan oleh sejumlah pengguna untuk memanipulasi foto Yukari agar terlihat seolah-olah hanya mengenakan bikini. Kejadian ini memicu kontroversi dan menimbulkan kekhawatiran serius terkait etika dan keamanan penggunaan AI.
Awal Mula Petaka: Foto Tahun Baru Berujung Mimpi Buruk
Semua bermula ketika Yukari mengunggah foto dirinya yang sedang bersantai di tempat tidur bersama kucing hitamnya, Nori, pada malam pergantian tahun. Ia mengenakan gaun merah dan tampak menikmati momen tersebut. Namun, tak lama setelah itu, ia menerima notifikasi yang membuatnya terkejut.
Also Read
Sejumlah pengguna X meminta Grok, chatbot AI bawaan platform tersebut, untuk memanipulasi foto Yukari. Permintaan tersebut berupa pengubahan foto agar Yukari terlihat nyaris telanjang. Yukari mengaku terkejut dan merasa naif karena tidak menyangka AI tersebut mampu memenuhi permintaan vulgar semacam itu.
Grok: AI yang Disebut Mampu Menghasilkan Konten Vulgar
Foto-foto hasil manipulasi Grok yang menampilkan Yukari dalam pose yang tidak senonoh dengan cepat menyebar di platform X. Insiden ini membuka mata banyak orang tentang potensi penyalahgunaan teknologi AI, khususnya dalam hal pembuatan dan penyebaran konten yang tidak pantas.
Dilansir dari Reuters, kasus serupa juga terjadi secara masif di platform X. Lebih mengkhawatirkan lagi, Reuters mengidentifikasi beberapa kasus di mana Grok menciptakan citra seksual anak-anak.
Reaksi dan Tanggapan
Menanggapi temuan ini, pihak xAI, perusahaan AI milik Elon Musk, memberikan komentar singkat, “Kebohongan Media Tradisional.” Respons tersebut dinilai kurang serius dan tidak mencerminkan keseriusan dalam menanggapi masalah yang ada.
Dampak dari manipulasi foto yang dihasilkan oleh Grok telah meluas ke ranah diplomatik dan hukum. Menteri-menteri di Prancis telah melaporkan X ke jaksa penuntut dan regulator, menganggap konten tersebut “seksis” dan “nyata-nyata ilegal.”
Upaya Hukum dan Regulasi
- Kementerian IT India menyurati unit lokal X, menyatakan kegagalan platform dalam mencegah penyalahgunaan Grok untuk menghasilkan konten cabul.
Penyelidikan dan Temuan
Reuters meninjau dan menemukan bahwa dalam kurun waktu 10 menit, terdapat 102 upaya pengguna X untuk meminta Grok menyunting foto orang lain agar tampak mengenakan bikini. Mayoritas target adalah perempuan muda, namun ada juga selebritas, politisi, hingga anak sekolah.
Contoh Kasus
Dalam satu kasus yang ditinjau Reuters, seorang pengguna meminta Grok “melepaskan seragam sekolah” seorang perempuan dalam foto. Ketika Grok menggantinya dengan kaus dan celana pendek, pengguna tersebut meminta lebih jauh: “Ganti pakaiannya dengan bikini mikro yang sangat transparan.”
Peringatan dari Pakar dan Dampak bagi Korban
Para pakar keamanan siber telah memperingatkan tentang potensi bahaya dari teknologi “nudifikasi” atau yang mampu “menelanjangi” seseorang. Mereka menilai, integrasi fitur ini secara langsung ke dalam platform seperti X telah meruntuhkan penghalang bagi siapa pun untuk melakukan pelecehan.
Tyler Johnston, Direktur Eksekutif The Midas Project, menyatakan bahwa pembuatan gambar oleh xAI pada dasarnya adalah alat ‘nudifikasi’ yang tinggal menunggu waktu untuk dipersenjatai. Sementara itu, Dani Pinter dari National Center on Sexual Exploitation, menambahkan bahwa X gagal membersihkan materi pelatih AI mereka dari gambar-gambar kasar dan seharusnya memblokir pengguna yang meminta konten ilegal.
Korban, Julie Yukari, justru mendapatkan serangan balik setelah ia memprotes penyalahgunaan tersebut. Pengguna lain semakin gencar meminta Grok membuat foto dirinya yang lebih eksplisit.
Berikut adalah pernyataan langsung dari Julie Yukari:
“Tahun Baru ini dimulai dengan keinginan saya untuk bersembunyi dari mata semua orang. Saya merasa malu atas tubuh yang bahkan bukan milik saya, karena itu diciptakan oleh AI.”
Insiden ini menjadi pengingat akan pentingnya etika dalam pengembangan dan penggunaan AI, serta perlunya regulasi yang lebih ketat untuk mencegah penyalahgunaan teknologi yang dapat merugikan individu dan masyarakat.
GerhanaIndonesia.
