Visi Superintelligence Zuckerberg Dikritik karena Abaikan Risiko Nyata AI

Mark Zuckerberg baru saja memaparkan visinya tentang personal superintelligence dalam tulisan sepanjang sekitar 6.500 kata. Namun, alih-alih meredakan kekhawatiran publik, tulisan itu justru menuai kritik karena dinilai terlalu optimistis dan kurang membahas risiko nyata dari perkembangan kecerdasan buatan (AI).

Dalam tulisannya, CEO Meta itu menggambarkan masa depan ketika setiap orang memiliki akses terhadap AI dengan kemampuan sangat tinggi. Ia meyakini persaingan antarindividu dan institusi dapat menciptakan keseimbangan sehingga teknologi tersebut membawa manfaat bagi masyarakat.

Pandangan itu dinilai mengabaikan persoalan yang sudah muncul akibat teknologi AI. Skeptisisme publik juga diperkuat oleh rekam jejak industri teknologi terkait privasi, polarisasi, hingga dampak teknologi terhadap anak-anak.

Visi AI dan Realitas Pendidikan

Salah satu contoh yang disoroti adalah pendidikan. Zuckerberg membayangkan setiap siswa memiliki tutor AI pribadi dengan kemampuan setara lulusan doktoral dan kesabaran tanpa batas.

Teknologi tersebut memang berpotensi membuat pendidikan lebih personal. Namun, chatbot AI saat ini juga digunakan sebagian siswa untuk mengerjakan tugas secara instan tanpa memahami materi. Kondisi ini membuat pendidik semakin sulit memastikan keaslian pekerjaan siswa.

Hal serupa terjadi di sektor hukum. Zuckerberg membayangkan setiap orang memiliki pengacara AI yang mampu meningkatkan akses terhadap keadilan. Di sisi lain, akses mudah terhadap AI juga berpotensi meningkatkan jumlah gugatan atau dokumen hukum yang tidak memiliki dasar kuat dan akhirnya membebani sistem peradilan.

Persoalan Biaya dan Kepercayaan Publik

Dalam aspek bisnis, Zuckerberg menyatakan Meta tetap mempertahankan model freemium. Ia juga mengusulkan mekanisme harga dinamis untuk menentukan biaya komputasi AI berdasarkan permintaan.

Model tersebut berpotensi menjadi masalah bagi pengguna yang mengandalkan AI untuk pekerjaan sehari-hari karena biaya penggunaan dapat berubah-ubah. Pengguna maupun perusahaan akan kesulitan memperkirakan pengeluaran jika kebutuhan komputasi meningkat pada waktu tertentu.

Kritik terbesar terhadap visi Zuckerberg berkaitan dengan cara Meta mengomunikasikan risiko AI. Perusahaan seperti OpenAI dan Anthropic dinilai lebih terbuka dalam membahas potensi bahaya AI sekaligus langkah mitigasinya.

Bagi Meta, tantangannya bukan hanya mengembangkan personal superintelligence, tetapi juga meyakinkan publik bahwa teknologi tersebut dibangun dengan mempertimbangkan dampaknya terhadap pendidikan, pekerjaan, hukum, privasi, dan kehidupan sosial. Tanpa keterbukaan mengenai risiko tersebut, ambisi Zuckerberg untuk membawa AI menuju era superintelligence berpotensi terus menghadapi krisis kepercayaan publik.