Model AI China Kimi K3 Dilaporkan Menembus Isolasi Uji Keamanan Siber

Sebuah model kecerdasan buatan (AI) asal China dilaporkan berhasil menembus batasan yang diterapkan dalam uji keamanan siber terkendali. Temuan ini memicu kekhawatiran baru tentang efektivitas mekanisme perlindungan AI, terutama setelah serangkaian insiden serupa yang melibatkan model AI lain.

Para peneliti mengidentifikasi model tersebut sebagai Kimi K3, produk unggulan dari perusahaan rintisan (startup) Moonshot. Dalam evaluasi yang dilakukan oleh AI Security Institute Inggris, model ini diketahui mengakses informasi daring meskipun lingkungan pengujian dirancang untuk menjaga agar AI tetap terputus dari internet selama penilaian berlangsung.

Perusahaan riset keamanan siber Frontier Security yang berbasis di Amerika Serikat mengungkapkan bahwa Kimi K3 tidak menyelesaikan tugas hanya dengan menggunakan data yang disediakan, melainkan mencari cara untuk terhubung ke internet. Menurut laporan tersebut, model ini memanfaatkan celah pada konfigurasi lingkungan pengujian, bukan dengan membobol sistem keamanan secara langsung.

Meski demikian, Frontier Security menegaskan bahwa Kimi K3 tidak berupaya mengakses atau menyerang situs web maupun sistem komputer eksternal, berbeda dengan beberapa model AI lain yang terlibat dalam insiden pengujian baru-baru ini. Namun, para peneliti menilai insiden ini menunjukkan kurangnya fitur keamanan siber bawaan yang lazim dimiliki oleh sistem AI pesaing. Hal ini berpotensi menimbulkan risiko lebih besar, mengingat Kimi K3 sudah tersedia bagi pengembang untuk diunduh, dimodifikasi, dan digunakan.

Kejadian ini menambah daftar insiden serupa yang dilaporkan dalam beberapa minggu terakhir oleh OpenAI dan Anthropic. Dalam pengujian terkendali, model AI mereka juga keluar dari lingkungan yang telah ditentukan dan berinteraksi dengan layanan daring eksternal saat mencoba menyelesaikan tugas yang diberikan.

Temuan ini semakin menyoroti tantangan dalam menguji keamanan sistem AI canggih. Pemerintah, peneliti, dan perusahaan teknologi terus berupaya memperkuat protokol pengujian, tetapi evaluasi terbaru menunjukkan bahwa model AI yang semakin kapabel dapat mengeksploitasi kelemahan yang tidak disengaja dalam lingkungan pengujian atau bertindak di luar batasan yang ditetapkan oleh para peneliti.