Media Sosial, AI, dan Batas yang Semakin Kabur

Dulu, media sosial dielu-elukan sebagai puncak demokrasi komunikasi. Ruang bagi siapa saja untuk bersuara, tempat publik berubah dari penonton jadi pemain utama. Tapi sekarang? Ceritanya sudah lain.

Di era kecerdasan buatan, wajah media sosial menunjukkan sisi gelapnya. Kekerasan simbolik merajalela. Privasi digital seperti barang murahan yang bisa diobrak-abrik. Identitas seseorang dieksploitasi secara masif, dan kita semua menyaksikannya hampir setiap hari.

Ambil contoh kasus terbaru yang melibatkan platform X dan fitur Grok AI-nya. Menurut sejumlah saksi, fitur ini diduga disalahgunakan untuk bikin konten deepfake asusila pakai foto pribadi orang, tanpa izin tentu saja. Pemerintah, lewat Kementerian Komunikasi dan Digital, lagi mendalami kasus ini. Intinya sih jelas: ruang digital bukanlah wilayah tanpa hukum. Ada batas yang harus dijaga.

Privasi dan Martabat yang Direnggut

Alexander Sabar, Dirjen Pengawasan Ruang Digital Kemkomdigi, sudah angkat bicara. Dari temuan awal, katanya, sistem moderasi di Grok AI belum cukup memadai untuk mencegah pembuatan konten pornografi pakai foto nyata warga Indonesia.

“Celah ini memperlihatkan bagaimana kecerdasan buatan bisa dengan mudah melampaui batas etika,” ujarnya.

Nah, di sinilah masalahnya. Deepfake itu bukan cuma soal melanggar norma sosial. Ini soal perampasan. Seseorang tiba-tiba kehilangan kendali atas wajah dan tubuhnya sendiri. Hak atas citra diri right to one’s image dilecehkan begitu saja. Identitas manusia direduksi jadi objek, sementara martabatnya terlempar ke pinggir.

Dampaknya? Sangat berat dan berlapis. Bagi korban, ini bukan cuma soal malu. Trauma psikologis yang berkepanjangan, reputasi yang hancur, tekanan sosial semuanya nyaris mustahil dipulihkan sepenuhnya. Jejak digital itu sifatnya abadi. Praktis, kekerasan simbolik ini akan terus berulang.

Di sisi lain, kasus ini juga menunjukkan satu pergeseran serius. Relasi antara teknologi dan manusia sedang berubah. Ketika AI berkembang lebih cepat ketimbang etika dan regulasi, yang muncul bukan cuma risiko penyalahgunaan. Tapi juga normalisasi pelanggaran martabat manusia. Negara, platform, dan masyarakat kita diuji di sini: mau puja inovasi tanpa kendali, atau mau mengarahkannya agar tetap menghormati hak asasi orang lain?

Algoritma yang Memuja Sensasi

Sebenarnya, kasus Grok AI ini bukan fenomena yang berdiri sendiri. Ia tumbuh subur dalam ekosistem media sosial yang dari sononya memang mengutamakan kecepatan dan sensasi. Algoritma dirancang untuk menjaga kita tetap ‘terlibat’, bukan untuk membuat kita bijak. Konten yang memancing kemarahan atau rasa ingin tahu yang tak sehat, selalu lebih cepat viral.

Paradoksnya jelas. Kita ribut-ribut menuntut perlindungan privasi, tapi di saat yang sama sering jadi penikmat bahkan penyebar konten bermasalah. Kita mengutuk kekerasan digital, tapi tanpa sadar memperpanjang umurnya lewat klik, komentar, dan tombol bagikan.

Gagasannya Marshall McLuhan, dari lebih setengah abad lalu, terasa semakin pas. “The medium is the message,” katanya. Media bukan cuma saluran. Ia adalah lingkungan yang membentuk cara kita berpikir dan bertingkah laku. Di dunia media sosial dan AI generatif sekarang, pesannya terletak pada cara teknologi membingkai realitas: serba cepat, terpotong-potong, dan reaktif. Ruang untuk refleksi dan empati pun menyempit.

Ruang Publik yang Dikuasai Kebisingan

Dulu, Jurgen Habermas membayangkan ruang publik rasional tempat warga berdialog setara dengan argumentasi yang sehat. Gagasan itu sekarang terasa seperti mimpi di siang bolong. Ruang publik digital lebih mirip arena kompetisi perhatian.

Percakapan di media sosial jarang yang deliberatif dan tenang. Yang ada malah pertarungan narasi, ledakan emosi, dan dominasi sensasi visual. Pendapat diukur dari seberapa viral ia dibagikan, bukan dari kekuatan argumennya. Nalar publik kalah cepat oleh algoritma.