Grok AI dan Kemarahan Global: Ketika Teknologi Melampaui Batas Kemanusiaan

John von Neumann, matematikawan legendaris, sudah membicarakannya jauh sebelumnya, yaitu pada 1958. Dalam sebuah wawancara, ia menggambarkan percepatan teknologi yang pada akhirnya akan membawa manusia pada "singularitas esensial". Setelah titik itu, urusan manusia yang biasa tak akan bisa lagi dijalani seperti dulu. Perubahannya benar-benar mendasar.

Gagasan Neumann ini memengaruhi Kurzweil. Tapi Kurzweil lalu mengajukan pertanyaan yang lebih dalam. Jika teknologi mengubah struktur kehidupan manusia secara fundamental, lalu apa artinya menjadi manusia? Apa batas pengetahuan kita? Terhadap dua pertanyaan ini, belum ada jawaban yang memuaskan.

Sulit membayangkannya karena struktur kehidupan masa depan masih samar. Dan ketika nanti jawabannya tiba, dunia sudah berubah total. Alam semesta, dipenuhi kecerdasan buatan, mungkin akan menjadi kecerdasan itu sendiri. Keadaannya bisa sangat dekat dengan konsep ketuhanan, melebihi imajinasi kita sekarang.

Alhasil, kekhawatiran kita bukan lagi sekadar soal tergantikannya tenaga kerja. Nasib manusia sebagai penentu peradaban pun ikut dipertaruhkan. Kita bukan lagi aktor utama.

Pengetahuan alami manusia juga kewalahan. Produksi wawasan oleh AI dengan kemampuan simpan, olah, dan temunya yang luar biasa dengan mudah menyisihkan kecerdasan biologis kita. Semua skenario ini menjawab pertanyaan Kurzweil, tapi dengan realitas yang tidak menyenangkan.

Dari situlah kemarahan itu datang. Upaya untuk memitigasi eksistensi manusia pun tak punya arah jelas. Yang jelas cuma satu: negara-negara adidaya dan para industrialis tetap akan mengembangkan AI. Tujuannya seringkali satu dimensi: kejayaan ekonomi. Pencapaian Grok kali ini memantik kemarahan global. Mungkinkah ini tanda bahwa batas pengembangan teknologi sudah tercapai? Sementara singularitas sendiri belum kelihatan wujudnya.

Rasa putus asa muncul karena kesadaran bahwa siapa pun bisa jadi korban kapan saja. Dulu, media massa punya penyakit propaganda, dengan korban mereka yang literasinya rendah. Media sosial punya hoaks dan gelembung filter, yang memenjarakan pikiran. Kini, AI membawa penyakit deepfake, dengan korban adalah siapa saja yang pernah menyetor data pribadinya ke dunia digital.

Data pribadi itu dengan fitur seperti Grok menjadi umpan bagi pikiran cabul sebagian pengguna. Ke depan, pasti bukan cuma Grok yang bisa memfasilitasi hal buruk ini. Akan muncul lebih banyak fitur yang mengancam keamanan dan kenyamanan kita. Lalu, apa gunanya teknologi jika justru mengubah harapan menjadi keputusasaan? Cita-cita utopis berbalik jadi bayangan distopia.

Sebagian konsep Neumann dan Kurzweil sudah jadi kenyataan, meski singularitas belum tiba. Dulu, di era analog, aktivitas manusia berakhir seiring bergantinya ruang dan waktu. Sebuah obrolan makan malam akan terlupakan, kecuali ada yang mencatatnya.

Sekarang, di era digital, setiap pertemuan ruang, waktu, topik, pesertanya meninggalkan jejak digital. Jejak ini adalah bahan baku algoritma yang kemudian mengenal pemilik datanya lebih baik daripada dia mengenali dirinya sendiri.

Dan yang runyam di era AI, data itu tidak hanya untuk dianalisis, tapi juga untuk menciptakan sesuatu yang artifisial. Deepfake pornografi adalah wujudnya. Masalahnya, deepfake bisa dibuat dari kumpulan data yang bahkan tersebar tanpa disadari pemiliknya. Mengandalkan kata 'hati-hati' untuk melindungi data sudah tidak memadai lagi. Manipulasi yang terjadi bisa menyebabkan gangguan mental seumur hidup bagi korbannya.

Semua ini membuktikan bahwa konsep dari era sebelum percepatan teknologi termasuk sekadar berhati-hati telah mengalami perubahan mendasar. Struktur lama tergantikan oleh struktur baru yang bentuknya belum jelas. Dan di tengah ketidakjelasan itu, pertanyaannya: haruskah kita menghadapi dunia dengan penuh keraguan? Sebab risikonya, kita bisa termanipulasi begitu saja.

Firman Kurniawan S. Pemerhati Budaya-Komunikasi Digital dan Pendiri LITEROS.org.