Bahaya Super AI! Ilmuwan hingga Pangeran Harry Buru-Buru Minta Dunia Berhenti

Di tengah seruan ini, raksasa teknologi seperti OpenAI, Google, dan Meta justru terus menginvestasikan miliaran dolar untuk memperkuat model AI, membangun pusat data canggih, dan menyematkan fitur AI di berbagai produk mereka.

Bengio, seorang Profesor di Universitas Montreal, memperingatkan, Sistem AI yang lebih mutakhir dapat melampaui sebagian besar individu dalam sebagian besar tugas kognitif hanya dalam beberapa tahun. Kemajuan ini dapat membuka solusi untuk tantangan global utama, tetapi juga membawa risiko yang signifikan.

Peringatan dari Future of Life Institute (FLI)

Anthony Aguirre, Direktur Eksekutif FLI yang juga fisikawan di University of California, menilai perkembangan AI berjalan jauh lebih cepat dari pemahaman masyarakat umum.

Pada dasarnya, arah perkembangan ini ditentukan oleh perusahaan dan sistem ekonomi yang mendorong mereka, bukan oleh pilihan publik. Padahal, kita perlu bertanya, apakah ini benar-benar masa depan yang kita inginkan? Apakah kita siap jika AI menggantikan peran manusia?, ujarnya.

Aguirre menegaskan bahwa dunia membutuhkan lebih banyak diskusi publik dan kebijakan nyata untuk mengatur arah pengembangan AI. Bahkan, dibutuhkan perjanjian internasional mengenai AI canggih, mirip dengan kesepakatan global untuk senjata nuklir.

Publik sebenarnya tidak menginginkan perlombaan ini. Sudah saatnya kita berhenti sejenak dan memutuskan bersama ke mana arah teknologi ini akan dibawa, pungkas Anthony Aguirre.