Meta Cabut Sementara Fitur Karakter AI untuk Remaja di Facebook dan Instagram

Nantinya, fitur karakter AI untuk remaja ini tak akan berdiri sendiri. Meta menjanjikan adanya kontrol penuh untuk orang tua. Sebenarnya, wacana ini bukan hal baru. Sudah sejak Oktober tahun lalu, perusahaan memberi gambaran soal fitur pengawasan yang memungkinkan orang tua mematikan obrolan privat antara remaja dan karakter AI. Sekarang, rencana itu semakin konkret.

Di sisi lain, perusahaan juga berusaha menenangkan publik. Mereka menegaskan bahwa seluruh pengalaman AI untuk kelompok remaja akan disetel sesuai rating PG-13. Tujuannya jelas: mencegah anak-anak mengakses materi yang dianggap tidak pantas untuk usianya.

Langkah Meta ini muncul di tengah tekanan yang makin menjadi. Regulator di Amerika Serikat, misalnya, kini mengawasi dengan ketat perusahaan-perusahaan AI. Kekhawatiran utama mereka adalah dampak negatif yang mungkin ditimbulkan chatbot, terutama pada pengguna muda.

Tekanan itu punya alasan. Reuters pernah melaporkan sebuah insiden pada Agustus lalu. Saat itu, aturan AI Meta didapati masih memungkinkan terjadinya percakapan provokatif dengan anak di bawah umur. Temuan itu langsung memicu gelombang kritik, mempertanyakan seberapa serius platform media sosial melindungi pengguna mudanya.