Desakan Hentikan Pengembangan Super AI: Pangeran Harry hingga Ilmuwan Dunia Ramai-ramai Tandatangani Seruan

Lebih dari 800 tokoh ternama dunia, mulai dari ilmuwan, mantan petinggi militer, seniman, hingga anggota keluarga kerajaan Inggris seperti Pangeran Harry dan Meghan Markle, secara resmi menandatangani seruan untuk menghentikan pengembangan kecerdasan buatan super atau superintelligence (Super AI).

Pernyataan global ini diinisiasi oleh Future of Life Institute (FLI). Dalam surat tersebut ditegaskan bahwa tuntutan pelarangan ini tidak boleh dicabut sebelum tercapai konsensus ilmiah yang luas yang memastikan bahwa pengembangan Super AI dapat dilakukan dengan aman dan terkendali.

Kekhawatiran Para Ahli dan Tokoh Terkenal

Kelompok peneliti AI yang menggagas pernyataan ini menyatakan kekhawatiran mendalam atas pesatnya kemajuan teknologi. Pakar AI ternama dunia, Geoffrey Hinton, juga termasuk di antara ratusan penandatangan yang merasa perkembangan AI sudah di luar kendali.

Seruan ini menambah daftar panjang desakan dari berbagai pihak untuk memperlambat laju pengembangan AI. Kekhawatiran utama adalah potensi teknologi ini dalam mengubah struktur ekonomi dan budaya global secara permanen.

Perlombaan Teknologi vs. Kebutuhan Regulasi

Di tengah seruan ini, raksasa teknologi seperti OpenAI, Google, dan Meta justru terus menginvestasikan miliaran dolar untuk memperkuat model AI, membangun pusat data canggih, dan menyematkan fitur AI di berbagai produk mereka.

Bengio, seorang Profesor di Universitas Montreal, memperingatkan, Sistem AI yang lebih mutakhir dapat melampaui sebagian besar individu dalam sebagian besar tugas kognitif hanya dalam beberapa tahun. Kemajuan ini dapat membuka solusi untuk tantangan global utama, tetapi juga membawa risiko yang signifikan.

Peringatan dari Future of Life Institute (FLI)

Anthony Aguirre, Direktur Eksekutif FLI yang juga fisikawan di University of California, menilai perkembangan AI berjalan jauh lebih cepat dari pemahaman masyarakat umum.

Pada dasarnya, arah perkembangan ini ditentukan oleh perusahaan dan sistem ekonomi yang mendorong mereka, bukan oleh pilihan publik. Padahal, kita perlu bertanya, apakah ini benar-benar masa depan yang kita inginkan? Apakah kita siap jika AI menggantikan peran manusia?, ujarnya.

Aguirre menegaskan bahwa dunia membutuhkan lebih banyak diskusi publik dan kebijakan nyata untuk mengatur arah pengembangan AI. Bahkan, dibutuhkan perjanjian internasional mengenai AI canggih, mirip dengan kesepakatan global untuk senjata nuklir.

Publik sebenarnya tidak menginginkan perlombaan ini. Sudah saatnya kita berhenti sejenak dan memutuskan bersama ke mana arah teknologi ini akan dibawa, pungkas Anthony Aguirre.