Riset Gartner: 32% Organisasi Alami Serangan AI, Keamanan Runtime Jadi Tantangan Utama

Jakarta kini menyaksikan sebuah fenomena baru. Kecerdasan Buatan (AI) tak lagi sekadar proyek percobaan di lab, tapi telah menjelma jadi jantung operasi banyak perusahaan. Bersamaan dengan itu, muncullah infrastruktur digital raksasa yang kerap dijuluki "Pabrik AI". Intinya, pabrik ini bertugas mengotomatisasi segalanya, mulai dari data mentah hingga model yang siap dipakai, layaknya lini produksi untuk menciptakan kecerdasan dalam skala massal.

Namun, di balik percepatan yang luar biasa ini, ada satu titik buta yang kritis: keamanan saat AI itu berjalan, atau istilah kerennya, keamanan runtime. Soalnya, skala yang besar justru membuka celah baru yang mungkin tak terpikirkan sebelumnya.

Menurut Jayant Dave, CISO Check Point Software, tantangan utama para CIO zaman sekarang bukan lagi cuma soal mengadakan GPU yang cukup. Lebih dari itu, mereka harus memastikan beban kerja masif yang dijalankan di atasnya aman dari serangan. Mulai dari injeksi prompt, peracunan model, sampai pelanggaran infrastruktur.

Ancaman ini nyata, lho. Data dari laporan Gartner terbaru cukup mencengangkan. Tercatat, 32% organisasi pernah kena serangan AI yang melibatkan manipulasi prompt. Bahkan lebih ngeri lagi, 29% lainnya mengaku infrastruktur GenAI mereka langsung diserang dalam setahun terakhir.

Di sisi lain, langkah pengamanan konvensional seringkali "buta" terhadap pola serangan AI yang unik. Mereka kesulitan membaca lalu lintas dari Protokol Konteks Model (MCP) atau nuansa sistem Retrieval-Augmented Generation (RAG). Makanya, wajar kalau hampir separuh organisasi tepatnya 49% merasa sangat khawatir dengan kerentanan yang mereka miliki saat ini.

Lantas, solusinya apa? Dave menekankan, paradigma keamanan harus berubah total. Dari yang tadinya cuma "tambahan", sekarang harus jadi fondasi utama. Salah satu arsitektur yang digaungkan adalah Zero-Impact Infrastructure Security. Konsepnya memanfaatkan telemetri NVIDIA DOCA Argus untuk memindahkan pemrosesan keamanan ke BlueField DPU. Hasilnya? Pemantauan real-time dan isolasi beban kerja bisa dilakukan tanpa membebani kinerja GPU yang mahal itu.

Selain infrastruktur, lapisan aplikasi 'Agenik' juga butuh perhatian serius. Seiring AI yang makin otonom, penggunaan Web Application Firewall (WAF) kini bisa memberikan perlindungan runtime untuk input dan output LLM. Ini efektif buat menghentikan ancaman yang menyasar aplikasi AI langsung.

Dan jangan lupakan faktor manusia. Pengaturan untuk mencegah kebocoran data sensitif secara real-time lewat DLP tetap krusial, apalagi untuk urusan kepatuhan regulasi.

Pesan strategisnya jelas buat para CIO: era dimana tim infrastruktur dan keamanan bekerja sendiri-sendiri sudah usai. Kalau mau membangun Pabrik AI yang tangguh, fokus kepemimpinan harus pada tiga pilar visibilitas, isolasi, dan performa. Tujuannya satu: memastikan AI berkinerja tinggi dan pertahanan siber yang kuat menyatu pada tingkat runtime.

Seperti kata Dave, revolusi AI ini harus diamankan di tingkat runtime. Kalau tidak, ya sama saja bohong. Tidak akan aman sama sekali.

(MMI)