Risiko Keamanan AI Meningkat pada Infrastruktur TI

Apa yang terjadi pada risiko keamanan AI dan infrastruktur TI

Risiko keamanan AI meningkat ketika sistem tidak lagi berdiri sendiri. Model AI dapat terhubung ke identitas pengguna, cloud, dokumen internal, basis pengetahuan, CRM, API, dan aplikasi operasional. Microsoft Digital Defense Report 2026 menyebut AI mempercepat serangan siber sekaligus menciptakan sasaran baru pada data dan infrastruktur yang menopang operasional AI.

Masalahnya bukan berarti setiap penggunaan AI pasti tidak aman. Risiko muncul saat organisasi memberi sistem akses luas tanpa memahami data yang diproses, tindakan yang boleh dilakukan, dan pihak yang bertanggung jawab bila hasilnya keliru. Untuk pembaca yang sedang menguji chatbot internal, automasi dokumen, atau agen AI, titik awalnya adalah melihat AI sebagai bagian dari infrastruktur TI, bukan sekadar fitur tambahan.

Riset Cisco dalam Relentless Defense Report, sebagaimana dilaporkan شبكة تواصل الإخبارية dan Demokratis.co.id, menyebut 40% organisasi di Indonesia belum menggunakan agen AI secara ekstensif untuk operasional keamanan siber. Laporan itu juga menyoroti perbedaan kecepatan: ancaman berbasis agen otonom dapat bergerak dalam hitungan detik, sementara koordinasi respons manusia dapat memerlukan waktu lebih lama.

Kesenjangan tersebut tidak otomatis harus dijawab dengan memberi agen AI kewenangan penuh. Organisasi perlu lebih dulu memastikan siapa yang menerima peringatan, siapa yang memutuskan tindakan, dan bagaimana sistem dihentikan saat ada anomali. Kecepatan berguna bila keputusan tetap memiliki batas yang jelas.

Risiko utama berada pada data, identitas, dan koneksi antarsistem

Risiko utama AI berada pada data yang diproses, identitas dan izin yang dipakai, serta koneksi ke sistem dan vendor lain. Satu workflow dapat memindahkan informasi melewati beberapa sistem, sehingga kredensial bocor, token API terlalu luas, atau dokumen internal salah dibagikan dapat memengaruhi lebih dari satu aplikasi. Microsoft mencatat keterhubungan identitas digital, layanan cloud, rantai pasok perangkat lunak, dan infrastruktur penting membuat lanskap ancaman makin kompleks.

Risiko pertama adalah data. Dokumen kontrak, informasi pelanggan, catatan operasional, atau kredensial tidak seharusnya masuk ke konteks AI hanya karena tersedia di folder bersama. Tim perlu menentukan data mana yang boleh diproses, berapa lama disimpan, serta apakah hasil AI boleh diteruskan ke aplikasi lain. Tanpa klasifikasi seperti ini, kontrol akses pada model saja tidak cukup.

Risiko kedua adalah identitas dan izin. Dalam artikel ini, otomasi berbasis aturan menjalankan urutan tetap, misalnya formulir masuk lalu data disimpan ke CRM. AI automation dapat memahami isi formulir sebelum pencatatan dilakukan. AI agent dibahas sebagai sistem dengan ruang tindakan lebih luas, karena dapat memilih beberapa langkah dan menggunakan tools berdasarkan konteks. Semakin luas kemampuan bertindak, semakin sempit izin yang seharusnya diberikan pada awal penerapan.

Sebagai ilustrasi hipotetis, sebuah tim pemasaran memakai AI untuk membaca formulir demo, memberi label prospek, lalu membuat draf email. Sistem itu cukup diberi akses membaca formulir, membuat catatan prospek, dan menyiapkan draf. Sistem tidak perlu memiliki izin menghapus kontak, mengubah hak akses CRM, atau mengirim email tanpa tinjauan staf. Pembatasan ini mengurangi dampak bila instruksi dimanipulasi atau akun integrasi disalahgunakan.

Risiko ketiga adalah pihak ketiga. Cisco, menurut laporan yang dikutip Demokratis.co.id, mencatat tiga kekhawatiran organisasi Indonesia dalam penerapan agen AI untuk keamanan: paparan informasi rahasia, kemungkinan sistem AI diretas atau dimanipulasi, serta ketidakpastian tata kelola data oleh penyedia layanan eksternal. Karena itu, evaluasi vendor perlu mencakup alur data dan akses, bukan hanya kualitas fitur AI.

Infrastruktur data dapat menjadi titik lemah yang sering terlewat

AI menghasilkan, memproses, dan menyalin data dalam jumlah besar. VIVA Bogor melaporkan survei Synology bahwa hampir 88% responden Indonesia mengkhawatirkan inefisiensi penyimpanan akibat pertumbuhan volume serta duplikasi data AI. Temuan itu menunjukkan penambahan kapasitas penyimpanan belum tentu menyelesaikan risiko bila data yang sama tersebar tanpa kepemilikan dan aturan retensi.

Duplikasi dapat muncul saat dokumen internal disalin ke knowledge base, hasil percakapan disimpan sebagai log, lalu keluaran AI dikirim lagi ke email atau CRM. Setiap salinan menambah lokasi yang harus diamankan dan dipantau. Tim TI perlu mengetahui data mana yang menjadi sumber utama, lokasi salinan, serta proses penghapusan ketika data tidak lagi dibutuhkan.

Langkah praktisnya adalah membuat inventaris sederhana untuk satu workflow. Catat sumber data, tujuan data, akun layanan yang dipakai, lokasi penyimpanan log, masa simpan, dan pemilik proses. Tabel ini tidak perlu menunggu proyek besar. Satu halaman untuk satu integrasi sering kali sudah cukup untuk menemukan token yang tidak dipakai, folder yang terlalu terbuka, atau data sensitif yang sebenarnya tidak perlu dikirim ke AI.

Synology juga menyoroti kebutuhan menjaga performa, keamanan informasi, dan kelangsungan operasional ketika adopsi AI meningkat, menurut VIVA Bogor. Dalam konteks keamanan, kelangsungan operasional berarti organisasi perlu mengetahui cara menjalankan proses manual atau mematikan integrasi tertentu ketika sistem AI, vendor, atau koneksi cloud mengalami masalah.

Kontrol yang perlu diterapkan sebelum AI diberi tindakan operasional

Kontrol pertama adalah akses minimum. Berikan AI atau akun integrasi hanya izin yang diperlukan untuk tugas saat ini. Pisahkan akun uji dan produksi agar eksperimen tidak langsung menyentuh data pelanggan atau proses bisnis aktif. Buat daftar pemilik setiap akun layanan sehingga tim tahu siapa yang meninjau akses ketika anggota tim berganti peran.

Kontrol kedua adalah pencatatan dan persetujuan. Simpan jejak tindakan penting: data yang dibaca, tools yang dipanggil, perubahan yang diminta, dan pengguna yang menyetujui tindakan berisiko. Tidak semua pekerjaan perlu persetujuan manusia. Pelabelan tiket, peringkasan dokumen, atau pembuatan draf dapat berjalan dengan pemantauan. Penghapusan data, perubahan izin, transaksi, dan komunikasi eksternal sebaiknya memerlukan approval manusia.

Contoh hipotetis lain dapat diterapkan pada layanan pelanggan. Mulailah dari alur chat masuk, AI memberi kategori masalah, AI mengambil jawaban dari knowledge base, lalu petugas meninjau draf sebelum mengirim respons. Jika pertanyaan menyangkut pengembalian dana, perubahan alamat, data pribadi, atau keluhan yang tidak sesuai kategori, sistem harus meneruskan tiket ke manusia. Cara ini memberi manfaat pada pekerjaan repetitif tanpa menyerahkan keputusan berdampak tinggi kepada sistem.

Kontrol ketiga adalah prosedur penghentian. Tentukan sejak awal siapa yang dapat menonaktifkan integrasi, bagaimana token dicabut, dan bagaimana pekerjaan dilanjutkan secara manual. Microsoft menempatkan identitas, data, cloud, rantai pasok perangkat lunak, serta infrastruktur penting dalam lanskap risiko yang saling terhubung. Saat satu titik bermasalah, tim perlu mampu membatasi dampaknya sebelum investigasi selesai.

Audit satu integrasi AI yang aktif minggu ini

Jangan memulai dari pembelian platform keamanan baru. Pilih satu integrasi AI yang sudah aktif atau sedang direncanakan. Temui pemilik proses, admin TI, dan pihak yang menangani data. Kemudian jawab lima pertanyaan: data apa yang masuk, sistem mana yang terhubung, izin apa yang dipakai, tindakan apa yang dapat dilakukan AI, dan siapa yang menyetujui tindakan berisiko.

Setelah itu, cabut izin yang tidak diperlukan, pisahkan lingkungan uji bila belum ada, dan pastikan log dapat diperiksa. Bila workflow belum memiliki jalur penghentian atau pemilik yang jelas, batasi fungsinya pada rekomendasi dan draf terlebih dahulu. Untuk konteks pengembangan kapasitas yang lebih luas, pembaca dapat melihat artikel pilar "Indonesia Siapkan Talenta AI dan Keamanan Siber untuk Ekonomi Digital".