Grok AI dan Kemarahan Global: Ketika Teknologi Melampaui Batas Kemanusiaan

Ini langka. Jarang sekali kita melihat pemimpin dunia dan masyarakat global marah pada hal yang sama. Bukan pada perang atau krisis, melainkan pada sebuah pencapaian teknologi. Alih-alih disambut suka cita, terobosan terbaru justru memantik amarah yang meluas. Lalu muncul pertanyaan mendasar: untuk apa sebenarnya teknologi dikembangkan? Dan adakah batas yang bisa menghentikannya?

Nyatanya, perkembangan itu justru seperti mendorong manusia ke tepi jurang. Kita bukan lagi pengendali, tapi calon korban dari manipulasi yang kita ciptakan sendiri.

Semuanya berawal di awal 2026. Saat itu, fitur Grok chatbot dari platform X yang dikembangkan xAI milik Elon Musk memperlihatkan kemampuan barunya. Dengan mengandalkan model bahasa besar (LLM), alat ini bisa mengubah foto siapa saja menjadi apa saja. Cukup dengan perintah sederhana.

Sebenarnya, kemampuan mengedit foto bukan hal baru. Sebelumnya, Grok sudah bisa mengubah foto biasa menjadi gaya animasi Ghibli atau poster film Pixar. Tapi kebaruan kali ini lain sama sekali. Fitur ini memungkinkan foto siapa pun diubah menjadi deepfake pornografi.

Dan ini bukan sekadar gambar telanjang. Ini eksploitasi. Objeknya dieksploitasi, dan hasrat penikmatnya dipuaskan dengan cara yang merusak.

Konsekuensinya mengerikan. Jika ‘siapa pun’ bisa mengartikulasikan pikiran cabulnya, maka ‘siapa pun’ juga bisa menjadi korbannya. Kekhawatiran itu bukan teori belaka. Pekan lalu, didorong euforia uji coba fitur baru, linimasa X dibanjiri gambar-gambar seronok. Banyak di antaranya diduga dibuat tanpa izin dari pemilik foto asli. Ramai punlah pembicaraan.

Keramaian itu penuh kekhawatiran, yang kemudian memuncak jadi kemarahan global. Bagaimana tidak? Foto-foto perempuan yang tak biasa berpose terbuka, bahkan foto anak-anak, diubah menjadi konten porno. Mungkin orang sadar: tinggal menunggu waktu sebelum mereka menjadi korban berikutnya.

Pada 8 Januari 2026, sejumlah media melaporkan gelombang protes dari berbagai negara. Prancis, India, Malaysia, dan Indonesia mengecam keras kemampuan Grok AI ini. Protes itu diikuti dengan penyelidikan soal penyalahgunaan data dan peredaran materi terlarang, terutama yang menyangkut anak di bawah umur.

Belakangan, Pemerintah Indonesia lewat Komdigi memblokir akses ke chatbot tersebut. Tindakan ini disebut sebagai bentuk perlindungan kepada warga. Tak lama setelahnya, Malaysia mengambil langkah serupa.

Kemarahan yang disertai rasa putus asa seperti ini jarang terjadi. Bahkan, mungkin tak terpikirkan sebelumnya: ada kemajuan teknologi yang langsung ditolak secara serempak oleh dunia.

Penolakan itu muncul karena manusia merasa terus tergerus eksistensinya oleh perangkat AI. Teknologi ini kian mantap menuju suatu titik yang disebut singularitas. Nah, di sinilah masalahnya. Tanpa peta yang jelas tentang bagaimana manusia akan bertahan di era singularitas, kemarahan dengan mudah berubah jadi keputusasaan.

Lalu, apa itu singularitas? Singkatnya, ini adalah titik di mana perubahan teknologi terjadi begitu cepat dan mendasar, sehingga dunia setelahnya tak bisa lagi diprediksi dengan logika lama. Konsep ini dipopulerkan Ray Kurzweil dalam bukunya tahun 2005. Ia percaya, saat komputer melampaui kecerdasan manusia, kita justru akan terhubung secara neurologis dengannya. Manfaatnya, kata dia, akan lebih besar daripada kerugiannya.

Tapi Kurzweil bukan yang pertama punya gagasan ini.

John von Neumann, matematikawan legendaris, sudah membicarakannya jauh sebelumnya, yaitu pada 1958. Dalam sebuah wawancara, ia menggambarkan percepatan teknologi yang pada akhirnya akan membawa manusia pada "singularitas esensial". Setelah titik itu, urusan manusia yang biasa tak akan bisa lagi dijalani seperti dulu. Perubahannya benar-benar mendasar.

Gagasan Neumann ini memengaruhi Kurzweil. Tapi Kurzweil lalu mengajukan pertanyaan yang lebih dalam. Jika teknologi mengubah struktur kehidupan manusia secara fundamental, lalu apa artinya menjadi manusia? Apa batas pengetahuan kita? Terhadap dua pertanyaan ini, belum ada jawaban yang memuaskan.

Sulit membayangkannya karena struktur kehidupan masa depan masih samar. Dan ketika nanti jawabannya tiba, dunia sudah berubah total. Alam semesta, dipenuhi kecerdasan buatan, mungkin akan menjadi kecerdasan itu sendiri. Keadaannya bisa sangat dekat dengan konsep ketuhanan, melebihi imajinasi kita sekarang.

Alhasil, kekhawatiran kita bukan lagi sekadar soal tergantikannya tenaga kerja. Nasib manusia sebagai penentu peradaban pun ikut dipertaruhkan. Kita bukan lagi aktor utama.

Pengetahuan alami manusia juga kewalahan. Produksi wawasan oleh AI dengan kemampuan simpan, olah, dan temunya yang luar biasa dengan mudah menyisihkan kecerdasan biologis kita. Semua skenario ini menjawab pertanyaan Kurzweil, tapi dengan realitas yang tidak menyenangkan.

Dari situlah kemarahan itu datang. Upaya untuk memitigasi eksistensi manusia pun tak punya arah jelas. Yang jelas cuma satu: negara-negara adidaya dan para industrialis tetap akan mengembangkan AI. Tujuannya seringkali satu dimensi: kejayaan ekonomi. Pencapaian Grok kali ini memantik kemarahan global. Mungkinkah ini tanda bahwa batas pengembangan teknologi sudah tercapai? Sementara singularitas sendiri belum kelihatan wujudnya.

Rasa putus asa muncul karena kesadaran bahwa siapa pun bisa jadi korban kapan saja. Dulu, media massa punya penyakit propaganda, dengan korban mereka yang literasinya rendah. Media sosial punya hoaks dan gelembung filter, yang memenjarakan pikiran. Kini, AI membawa penyakit deepfake, dengan korban adalah siapa saja yang pernah menyetor data pribadinya ke dunia digital.

Data pribadi itu dengan fitur seperti Grok menjadi umpan bagi pikiran cabul sebagian pengguna. Ke depan, pasti bukan cuma Grok yang bisa memfasilitasi hal buruk ini. Akan muncul lebih banyak fitur yang mengancam keamanan dan kenyamanan kita. Lalu, apa gunanya teknologi jika justru mengubah harapan menjadi keputusasaan? Cita-cita utopis berbalik jadi bayangan distopia.

Sebagian konsep Neumann dan Kurzweil sudah jadi kenyataan, meski singularitas belum tiba. Dulu, di era analog, aktivitas manusia berakhir seiring bergantinya ruang dan waktu. Sebuah obrolan makan malam akan terlupakan, kecuali ada yang mencatatnya.

Sekarang, di era digital, setiap pertemuan ruang, waktu, topik, pesertanya meninggalkan jejak digital. Jejak ini adalah bahan baku algoritma yang kemudian mengenal pemilik datanya lebih baik daripada dia mengenali dirinya sendiri.

Dan yang runyam di era AI, data itu tidak hanya untuk dianalisis, tapi juga untuk menciptakan sesuatu yang artifisial. Deepfake pornografi adalah wujudnya. Masalahnya, deepfake bisa dibuat dari kumpulan data yang bahkan tersebar tanpa disadari pemiliknya. Mengandalkan kata 'hati-hati' untuk melindungi data sudah tidak memadai lagi. Manipulasi yang terjadi bisa menyebabkan gangguan mental seumur hidup bagi korbannya.

Semua ini membuktikan bahwa konsep dari era sebelum percepatan teknologi termasuk sekadar berhati-hati telah mengalami perubahan mendasar. Struktur lama tergantikan oleh struktur baru yang bentuknya belum jelas. Dan di tengah ketidakjelasan itu, pertanyaannya: haruskah kita menghadapi dunia dengan penuh keraguan? Sebab risikonya, kita bisa termanipulasi begitu saja.

Firman Kurniawan S. Pemerhati Budaya-Komunikasi Digital dan Pendiri LITEROS.org.