Komdigi Bergerak Cepat Usai Grok AI Diduga Rangkai Konten Porno Pakai Foto Warga

Kementerian Komunikasi dan Digital (Komdigi) kini bergerak cepat menanggapi laporan yang cukup meresahkan. Isunya, fitur kecerdasan buatan Grok AI di platform X diduga disalahgunakan untuk bikin dan sebarkan konten porno. Yang bikin runyam, foto-foto pribadi warga dijadikan bahan mainan dimanipulasi tanpa izin sama sekali.

Menurut sejumlah saksi, praktik ini sudah beredar cukup luas di beberapa forum tertutup. Alexander Sabar, Dirjen Pengawasan Ruang Digital Komdigi, mengaku telah melakukan penelusuran. Hasilnya? Ternyata, Grok AI belum punya pengaturan yang cukup ketat untuk mencegah pembuatan konten asusila, apalagi yang pakai foto-foto asli orang Indonesia.

"Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,"

ujar Alexander dalam pernyataan resminya, Rabu (7/1).

Bagi pemerintah, urusannya nggak cuma soal melanggar norma kesusilaan. Ada dimensi lain yang lebih dalam. Manipulasi digital semacam ini pada dasarnya merampas kendali seseorang atas wajah dan tubuhnya sendiri. Dampaknya bisa panjang: trauma psikologis, masalah di kehidupan sosial, sampai reputasi yang hancur berantakan.

Makanya, Komdigi sekarang lagi berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE). Tujuannya jelas, memastikan ada mekanisme perlindungan yang benar-benar bekerja. Mulai dari sistem moderasi konten yang lebih canggih, pencegahan pembuatan deepfake nakal, sampai prosedur penanganan laporan yang harus cepat dan responsif.

Di sisi lain, pemerintah mengingatkan satu hal penting. Semua penyedia layanan digital yang beroperasi di Indonesia, termasuk X, wajib patuh pada aturan kita. Titik. Tidak ada tawar-menawar dalam hal ini.

Kalau sampai ada yang bandel atau kurang kooperatif, sanksinya nggak main-main. Pemerintah bisa menjatuhkan denda administratif, bahkan sampai memblokir akses layanan Grok AI dan X itu sendiri. Aturan serupa juga berlaku untuk penyedia layanan AI lainnya, termasuk para pengguna yang ketahuan bikin atau menyebarkan konten terlarang.

Landasan hukumnya sudah ada. Konten pornografi diatur dalam KUHP baru, Undang-Undang Nomor 1 Tahun 2023. Pasal 172 mendefinisikan pornografi sebagai materi yang memuat kecabulan atau eksploitasi seksual. Sementara Pasal 407 mengancam pelakunya dengan pidana penjara minimal enam bulan, maksimal sepuluh tahun, plus denda yang nggak sedikit.

Alexander punya pesan untuk masyarakat. Buat korban manipulasi foto atau deepfake, jangan diam saja. Segera laporkan ke aparat penegak hukum dan adukan ke Kemkomdigi. Ia menegaskan, ruang digital bukan zona bebas hukum. Privasi dan hak atas citra diri setiap warga harus dihormati, di mana pun.