Perlindungan Konsumen di Era AI: Tantangan Baru bagi ASEAN

Tanpa disadari, sebagian besar keputusan konsumsi masyarakat kini tidak lagi sepenuhnya lahir dari kehendak sendiri. Produk yang muncul di layar ponsel, iklan di media sosial, rekomendasi barang yang dianggap sesuai kebutuhan, hingga harga yang harus dibayar semakin banyak ditentukan oleh algoritma kecerdasan buatan (AI). Seorang konsumen di Indonesia bisa membeli barang dari penjual di Bangkok melalui platform yang berkedudukan di Singapura, menggunakan layanan pembayaran dari Malaysia, sementara sistem rekomendasi dan penentuan harga dikendalikan oleh algoritma yang dikembangkan di Amerika Serikat atau China.

Perdagangan digital telah menghapus batas geografis, tetapi menghadirkan batas baru yang jauh lebih sulit dipahami: batas antara keputusan manusia dan keputusan mesin. Pertanyaannya, siapakah yang bertanggung jawab ketika algoritma merugikan konsumen? Pertanyaan itu tidak lagi bersifat futuristik. Asia Tenggara saat ini merupakan salah satu pusat pertumbuhan ekonomi digital tercepat di dunia. Integrasi ekonomi digital melalui ASEAN Digital Economy Framework Agreement (DEFA) diproyeksikan menjadikan ASEAN sebagai kekuatan ekonomi digital global. Namun sejarah mengajarkan, pertumbuhan ekonomi tanpa perlindungan hukum yang memadai hampir selalu melahirkan ketimpangan baru. Demikian pula dengan AI: tanpa tata kelola yang baik, teknologi yang seharusnya mempermudah kehidupan justru berpotensi memperbesar ketimpangan antara perusahaan digital dan konsumen.

Ketimpangan di Era AI

Selama bertahun-tahun, hukum perlindungan konsumen dibangun di atas asumsi adanya ketimpangan informasi antara penjual dan pembeli. Di era AI, bentuk ketimpangan itu berubah secara fundamental. Kini perusahaan digital tidak hanya mengetahui karakteristik produk, tetapi juga perilaku konsumen secara sangat rinci: apa yang dicari, apa yang disukai, kapan seseorang cenderung membeli, bahkan kapan ia berada dalam kondisi psikologis paling mudah dipengaruhi.

Data pribadi telah menjadi minyak baru dalam ekonomi digital. Shoshana Zuboff menyebut fenomena ini sebagai surveillance capitalism praktik menjadikan pengalaman dan perilaku manusia sebagai bahan baku ekonomi untuk diprediksi, dianalisis, dan diperdagangkan. Dalam sistem itu, konsumen tidak lagi hanya membeli barang dan jasa, tetapi juga menjadi sumber data yang menghasilkan keuntungan bagi perusahaan teknologi. Ironisnya, sebagian besar konsumen tidak mengetahui seberapa jauh data mereka digunakan, diproses, dipindahkan lintas negara, bahkan diperjualbelikan.

Salah satu tantangan terbesar adalah diskriminasi algoritmik. Dua konsumen dapat memperoleh harga berbeda untuk produk yang sama pada waktu yang sama hanya karena sistem memprediksi kemampuan bayar yang berbeda. Seorang pengguna bisa mendapat akses kredit lebih cepat bukan karena kemampuan ekonominya lebih baik, melainkan karena pola perilaku digitalnya dianggap lebih menguntungkan. Diskriminasi ini sering tidak terlihat karena tersembunyi di balik kompleksitas teknologi. Tidak ada petugas yang menolak pengajuan secara langsung; yang ada hanyalah keputusan otomatis di layar: pengajuan ditolak, transaksi dibatalkan, atau harga berubah.

Algoritma menjadi hakim yang tidak terlihat, tetapi memiliki pengaruh besar terhadap kehidupan ekonomi masyarakat. Persoalannya, algoritma bukan subjek hukum. Ia tidak bisa dipanggil ke pengadilan dan tidak dapat dimintai pertanggungjawaban. Karena itu, tanggung jawab hukum tidak boleh hilang hanya karena keputusan dibuat oleh mesin. Pada akhirnya, tanggung jawab harus tetap berada pada manusia dan korporasi yang merancang, menggunakan, dan memperoleh keuntungan dari teknologi tersebut.

Perdagangan Digital ASEAN

Karakter perdagangan digital ASEAN yang lintas negara memperumit persoalan. Bayangkan seorang konsumen Indonesia membeli produk dari Thailand melalui platform di Singapura menggunakan sistem pembayaran Malaysia, sementara algoritma dikembangkan oleh perusahaan di luar ASEAN. Ketika terjadi sengketa, hukum negara mana yang berlaku? Pengadilan mana yang berwenang? Siapa yang bertanggung jawab? Pertanyaan-pertanyaan itu menunjukkan bahwa perlindungan konsumen digital tidak bisa lagi diselesaikan hanya melalui pendekatan hukum nasional.

Selama ini perhatian kawasan lebih banyak diarahkan pada penghapusan hambatan perdagangan, kelancaran arus data, dan peningkatan investasi digital. Padahal integrasi ekonomi tanpa integrasi perlindungan konsumen berpotensi menciptakan ruang abu-abu yang dimanfaatkan untuk menghindari tanggung jawab hukum. ASEAN membutuhkan standar minimum bersama mengenai transparansi algoritma, perlindungan data pribadi, akuntabilitas AI, dan mekanisme penyelesaian sengketa konsumen lintas negara.

Berbagai organisasi internasional seperti OECD dan UNESCO memperkenalkan konsep human-centric AI pendekatan yang menempatkan manusia sebagai pusat pengembangan teknologi. Prinsip ini sederhana: teknologi harus melayani manusia, bukan sebaliknya. Konsumen berhak mengetahui ketika mereka berinteraksi dengan AI, memahami dasar pengambilan keputusan otomatis yang memengaruhi dirinya, dan meminta peninjauan kembali oleh manusia terhadap keputusan algoritmik yang berdampak signifikan.

Prinsip tersebut sejalan dengan gagasan John F. Kennedy tentang hak dasar konsumen: hak atas keamanan, hak memperoleh informasi, hak memilih, dan hak untuk didengar. Perbedaannya, jika dulu perlindungan diarahkan pada produk cacat atau informasi menyesatkan, kini harus diperluas hingga mencakup keputusan algoritmik. John Rawls melalui teori justice as fairness mengingatkan bahwa keadilan menuntut perlindungan terhadap pihak paling rentan. Dalam ekonomi digital berbasis AI, pihak paling rentan adalah konsumen yang tidak memahami cara kerja algoritma, tetapi harus menerima konsekuensi dari keputusannya. Negara tidak bisa bersikap netral; hukum harus hadir untuk menciptakan keseimbangan.

Perlindungan Konsumen di ASEAN

Indonesia sebagai negara ekonomi digital terbesar di ASEAN memiliki peluang besar menjadi pelopor tata kelola AI di kawasan. Namun peluang itu hanya akan terwujud jika Indonesia tidak berhenti sebagai pasar bagi teknologi global, melainkan juga menjadi pembentuk standar hukum dan etika penggunaan AI. Revisi hukum perlindungan konsumen perlu mengakomodasi hak atas penjelasan terhadap keputusan algoritmik (right to explanation), hak atas peninjauan manusia (right to human review), serta kewajiban audit terhadap sistem AI berisiko tinggi.

Penguatan implementasi perlindungan data pribadi juga menjadi prasyarat penting agar masyarakat tidak berubah menjadi sekadar sumber data bagi ekonomi digital global. Pengalaman Uni Eropa melalui EU AI Act menunjukkan bahwa regulasi bukanlah musuh inovasi. Sebaliknya, kepastian hukum justru merupakan fondasi utama tumbuhnya kepercayaan publik terhadap teknologi baru. Dalam ekonomi digital, kepercayaan adalah mata uang paling berharga.

Keberhasilan ekonomi digital ASEAN tidak akan ditentukan oleh seberapa cepat kawasan ini mengadopsi AI, melainkan oleh seberapa efektif kawasan ini memastikan bahwa kecerdasan tersebut tetap bekerja untuk kepentingan manusia. AI mungkin mampu menggantikan banyak proses pengambilan keputusan manusia, tetapi ada satu hal yang tidak boleh diserahkan kepada algoritma: tanggung jawab moral dan hukum untuk melindungi manusia itu sendiri. Sebab ukuran keberhasilan teknologi pada akhirnya bukanlah seberapa canggih mesin bekerja, melainkan seberapa aman, adil, dan bermartabat manusia hidup berdampingan dengannya.