Kemenkominfo Blokir Grok AI, Diduga Jadi Alat Penyebar Deepfake Porno

Pemerintah akhirnya mengambil langkah tegas. Akses ke Grok AI, platform kecerdasan buatan yang ramai dibicarakan, resmi diputus oleh Kementerian Komunikasi dan Digital. Pemicunya? Maraknya konten deepfake pornografi yang beredar, yang diduga kuat dibuat menggunakan fitur-fitur dari aplikasi tersebut.

Menurut sejumlah laporan, teknologi itu disalahgunakan untuk memproduksi dan menyebarkan materi asusila. Yang lebih mengkhawatirkan, praktik ini kerap melibatkan manipulasi foto pribadi orang-orang tanpa izin dan bersifat sangat sensitif. Korban-korbannya, tentu saja, merasa hak privasinya diinjak-injak.

Dalam keterangannya di hari Sabtu (10/1), Menteri Komunikasi dan Digital Meutya Hafid menjelaskan alasan di balik keputusan ini.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ucap Meutya.

Ia menegaskan sikap pemerintah yang melihat masalah ini bukan sekadar pelanggaran ringan.

“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” tambahnya.

Langkah ini bukan tanpa dasar hukum. Meutya menyebut aturan mainnya merujuk pada Permenkominfo Nomor 5 Tahun 2020, tepatnya Pasal 9. Aturan itu mewajibkan setiap penyelenggara sistem elektronik untuk mencegah penyebaran konten terlarang di platform mereka.

Di sisi lain, pemerintah tak hanya berhenti pada memblokir. Mereka juga memanggil pihak X, induk perusahaan dari Grok AI, untuk datang ke kantor Kemenkominfo. Tujuannya jelas: meminta klarifikasi dan tanggung jawab atas dampak negatif yang timbul.

“Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” pungkas Meutya.

Keputusan ini, meski terkesan mendadak, sebenarnya adalah respons atas keresahan yang kian meluas. Ruang digital harusnya aman, bukan jadi tempat eksploitasi baru dengan kedok teknologi mutakhir.