Kemenkominfo Blokir Grok AI, Diduga Jadi Alat Penyebar Deepfake Porno

“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” tambahnya.

Langkah ini bukan tanpa dasar hukum. Meutya menyebut aturan mainnya merujuk pada Permenkominfo Nomor 5 Tahun 2020, tepatnya Pasal 9. Aturan itu mewajibkan setiap penyelenggara sistem elektronik untuk mencegah penyebaran konten terlarang di platform mereka.

Di sisi lain, pemerintah tak hanya berhenti pada memblokir. Mereka juga memanggil pihak X, induk perusahaan dari Grok AI, untuk datang ke kantor Kemenkominfo. Tujuannya jelas: meminta klarifikasi dan tanggung jawab atas dampak negatif yang timbul.

“Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” pungkas Meutya.

Keputusan ini, meski terkesan mendadak, sebenarnya adalah respons atas keresahan yang kian meluas. Ruang digital harusnya aman, bukan jadi tempat eksploitasi baru dengan kedok teknologi mutakhir.