BSSN Ingatkan Bahaya Agentic AI dalam Keamanan Siber

Apa peringatan BSSN tentang Agentic AI?

BSSN mengingatkan bahwa Agentic AI dapat memperkuat pertahanan siber, tetapi juga dapat menjadi sasaran dan instrumen serangan. Menurut laporan Tirto.id pada 29 Oktober 2026, Kepala BSSN Nugroho Sulistyo Budi menyebut tiga posisi AI dalam keamanan siber: shield, target, dan weapon.

Peringatan itu disampaikan dalam konferensi 3rd ASEAN-Japan Cybersecurity Community Alliance di Thailand. Tirto.id melaporkan BSSN mendorong penguatan tata kelola AI, prinsip Security by Design, serta pengelolaan risiko secara proaktif. Fokusnya bukan melarang penggunaan AI, melainkan memastikan sistem yang diberi akses dapat dikendalikan, diawasi, dan dihentikan bila bertindak keliru.

Dalam konteks artikel ini, Agentic AI merujuk pada sistem AI yang dapat merencanakan dan menjalankan rangkaian tindakan menuju tujuan tertentu dengan otonomi lebih tinggi. Aktualita.co melaporkan kemampuan tersebut dapat membantu pekerjaan manusia, namun berpotensi mengotomatisasi sebagian tahapan serangan saat dipakai pihak dengan tujuan berbahaya.

Mengapa Agentic AI membawa risiko yang berbeda?

Risiko Agentic AI meningkat ketika sistem tidak hanya menjawab pertanyaan, tetapi dapat memakai alat dan menjalankan tindakan. Contohnya, agent yang terhubung ke email, basis pengetahuan, CRM, penyimpanan dokumen, atau aplikasi internal memiliki jalur akses lebih luas daripada chatbot yang hanya menghasilkan teks.

Otomasi biasa menjalankan aturan tetap. Misalnya, formulir masuk dicatat ke CRM lalu email balasan dikirim. AI automation menambahkan kemampuan memahami isi formulir, seperti mengelompokkan lead berdasarkan kebutuhan. Agentic AI dapat mengambil konteks, memilih urutan kerja, memakai beberapa alat, lalu menyelesaikan tujuan dalam batas yang diberikan.

Perbedaan itu menentukan desain pengamanan. Sistem yang hanya membuat draf dapat diberi akses baca terbatas. Sistem yang mampu mengirim email, memperbarui data pelanggan, atau memanggil layanan lain memerlukan pembatasan izin, pencatatan aktivitas, dan titik persetujuan manusia.

Sebagai ilustrasi hipotetis, agent layanan pelanggan menerima pertanyaan penggantian email akun. Agent dapat mencari prosedur dari basis pengetahuan dan menyiapkan jawaban. Namun, agent tidak seharusnya mengubah data akun atau mengirim dokumen pelanggan tanpa verifikasi serta persetujuan staf yang berwenang. Tujuannya tetap sama: membantu respons. Batas tindakannya berbeda karena dampak kesalahannya lebih besar.

Tiga posisi AI yang perlu dipetakan organisasi

Menurut laporan Aktualita.co mengenai paparan Kepala BSSN, AI dapat berperan sebagai shield untuk pertahanan, target serangan, atau weapon yang disalahgunakan untuk mendukung serangan. Organisasi perlu memetakan ketiga posisi ini sebelum memberi agent akses ke data atau tindakan operasional. Dalam peran ini, AI membantu menganalisis aktivitas jaringan, mengenali pola mencurigakan, mendeteksi indikasi serangan, dan mendukung respons insiden. AI tidak menggantikan tim keamanan, tetapi membantu memilah sinyal yang perlu diperiksa lebih dulu.

Contoh penerapannya, tim keamanan dapat memakai AI untuk merangkum lonjakan aktivitas login yang tidak biasa dari log internal. Ringkasan itu tetap perlu diperiksa analis sebelum akun diblokir, akses dicabut, atau investigasi diperluas. Keputusan yang memengaruhi pengguna dan operasional tidak aman bila diserahkan sepenuhnya pada hasil model.

AI juga dapat menjadi target. Aktualita.co menyebut model AI, data pelatihan, dan sistem yang mengoperasikannya berpotensi menjadi titik masuk serangan. Manipulasi data atau penyalahgunaan instruksi dapat memengaruhi keandalan keluaran sistem. Karena itu, organisasi perlu memeriksa dari mana agent mengambil informasi, siapa yang dapat mengubah sumber tersebut, dan data mana yang layak dijadikan dasar tindakan.

Posisi ketiga adalah weapon, yakni ketika kemampuan AI disalahgunakan untuk mendukung serangan. Agentic AI tidak otomatis menjadi alat serangan. Risiko meningkat bila sistem mengotomatisasi tindakan, memakai akses terlalu luas, atau menerima instruksi tanpa pengamanan memadai.

Kontrol minimum sebelum agent diberi akses kerja

Kontrol pertama adalah memulai dari proses bisnis, bukan dari kemampuan model. Tentukan pekerjaan yang ingin dibantu, pemilik proses, data yang dibutuhkan, tindakan yang boleh dilakukan otomatis, serta tindakan yang wajib menunggu persetujuan manusia. Pendekatan ini selaras dengan dorongan BSSN mengenai tata kelola AI dan Security by Design yang dilaporkan Tirto.id.

Misalnya, workflow kualifikasi lead dapat dimulai dari lead masuk melalui formulir. Agent membaca kebutuhan yang diberikan, mengelompokkan kategori lead, lalu membuat entri CRM. Agent dapat menyiapkan pesan tindak lanjut, tetapi pengiriman penawaran khusus atau perubahan status pelanggan tetap menunggu tinjauan tim sales. Pemisahan ini membatasi dampak bila klasifikasi awal salah.

Kontrol kedua adalah menerapkan hak akses minimum. Pisahkan akses baca, tulis, dan eksekusi tindakan. Agent yang hanya perlu membaca dokumen tidak perlu memiliki izin menghapus dokumen. Agent yang membuat draf email tidak perlu dapat mengirimkan pesan atas nama seluruh organisasi. Izin harus sesuai tugas, bukan sesuai seluruh kemampuan aplikasi yang tersedia.

Jejak tindakan perlu dicatat agar organisasi dapat menelusuri permintaan yang masuk, sumber data yang dipakai, alat yang diakses, tindakan yang diusulkan, tindakan yang benar-benar dijalankan, dan akun yang memberikan persetujuan. Catatan ini membantu investigasi bila keluaran agent salah, data berubah, atau terjadi aktivitas tidak wajar.

Organisasi juga perlu menyiapkan penghentian dan pemulihan. Andaikan agent salah mengklasifikasikan dokumen internal lalu membagikannya ke kanal yang tidak sesuai, tim harus tahu cara mencabut akses, menghentikan workflow, menilai data yang terdampak, dan memperbaiki perubahan. Tanpa jalur pemulihan, organisasi hanya mengetahui masalah setelah dampaknya meluas.

Kesalahan implementasi yang sering tidak terlihat di awal

Kesalahan umum adalah memberi agent akses luas agar demo terlihat lebih berguna. Akses tersebut sering mencampurkan data publik, data internal, dan tindakan operasional dalam satu ruang kerja. Saat sumber data atau instruksi dimanipulasi, agent dapat menghasilkan rekomendasi atau tindakan yang tidak sesuai tujuan awal.

Masalah lain adalah menyamakan pengawasan manusia dengan sekadar tombol persetujuan. Pengawasan yang berguna harus menjawab siapa yang meninjau, informasi apa yang diperiksa, kapan tindakan boleh berjalan otomatis, dan siapa yang bertanggung jawab bila keputusan salah. Persetujuan untuk tindakan berdampak tinggi tidak efektif bila petugas tidak memiliki konteks atau waktu untuk menilai risikonya.

Sebagai contoh hipotetis, organisasi dapat menguji agent internal untuk merangkum tiket dukungan yang sudah ditutup. Agent hanya diberi data yang relevan, tidak memiliki izin mengubah tiket, dan hasilnya diperiksa supervisor selama masa uji. Setelah kualitas keluaran stabil, organisasi dapat mempertimbangkan tugas lanjutan yang tetap memiliki batas akses dan prosedur penghentian.

BSSN merupakan instansi pemerintah yang menjalankan tugas pemerintahan di bidang keamanan siber dan sandi, menurut halaman Tentang BSSN. Dalam konteks peringatan Agentic AI, organisasi perlu memandang keamanan sebagai bagian dari desain workflow, bukan pemeriksaan tambahan setelah sistem terhubung ke banyak aplikasi.

Untuk memahami fondasi teknologi pertahanan, pembaca dapat melihat artikel pilar berjudul Google Luncurkan Gemini 4 Carbon untuk Keamanan Siber. Langkah praktis berikutnya: pilih satu agent yang sudah digunakan, buat daftar seluruh data dan aplikasi yang diaksesnya, lalu tetapkan satu tindakan yang harus dialihkan ke persetujuan manusia sebelum workflow diperluas.