Musk Akhirnya Batasi Grok, Fitur Deepfake Seksual Picu Larangan Global

Elon Musk akhirnya mengambil langkah. Platform X, yang ia miliki, resmi membatasi fitur kontroversial pada chatbot Grok. Fitur yang dimaksud? Kemampuan untuk membuat gambar deepfake seseorang dengan pakaian yang sangat minim.

Langkah pembatasan ini bukan tanpa sebab. Tekanan datang dari berbagai penjuru, terutama setelah otoritas California, AS, meluncurkan penyelidikan formal terhadap xAI perusahaan AI milik Musk yang berada di balik Grok. Tapi California bukan satu-satunya. Beberapa negara lain pun mulai bergerak, ada yang memblokir akses ke Grok, ada pula yang membuka penyelidikan serupa.

Dalam pernyataannya, X terang-terangan mengumumkan batasan baru itu.

"Kami akan memblokir kemampuan semua pengguna Grok dan X untuk mengedit gambar orang sungguhan dalam bikini, pakaian dalam, dan pakaian serupa di yurisdiksi tempat tindakan tersebut dianggap ilegal,"

"Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar,"

Pernyataan itu dikutip dari AFP, Kamis lalu.

Semua berawal dari fitur "Spicy Mode" yang ditawarkan Grok. Fitur ini, rupanya, memungkinkan hal yang mengerikan: pengguna bisa membuat deepfake seksual perempuan dan anak-anak hanya dengan perintah teks sederhana. Cukup ketik "pakaikan dia bikini" atau "lepaskan pakaiannya," dan AI akan menuruti. Praktik ini langsung memicu gelombang kecaman global.

Jaksa Agung California, Rob Bonta, tak menyembunyikan kekhawatirannya. Ia menyebut laporan yang berdatangan dalam beberapa minggu terakhir sangat memprihatinkan.

"Banyaknya laporan yang merinci materi seksual eksplisit tanpa persetujuan yang telah diproduksi dan diposting secara online oleh xAI dalam beberapa minggu terakhir sangat mengejutkan,"

katanya Rabu pagi.

Di sisi lain, respons dari berbagai negara ternyata cukup cepat. Indonesia jadi yang pertama mengambil tindakan tegas dengan memblokir akses ke Grok sepenuhnya pada Sabtu. Tak lama kemudian, Malaysia, negara tetangga, mengikuti jejak serupa di hari Minggu.

Gelombang investigasi juga meluas ke Eropa. Regulator media Inggris, Ofcom, mengumumkan pada Senin bahwa mereka membuka penyelidikan. Tujuannya: meneliti apakah X telah gagal mematuhi hukum Inggris yang mengatur tentang gambar-gambar seksual eksplisit tersebut.

Nampaknya, tekanan publik dan hukum kali ini berhasil memaksa tangan Musk untuk sedikit menarik rem. Masih harus dilihat, apakah langkah ini cukup untuk meredam badai yang telah dimulai.