Microsoft Luncurkan Guardian Agents untuk Amankan Agen AI

Apa yang terjadi pada Guardian Agents Microsoft

Microsoft luncurkan Guardian Agents untuk amankan agen AI, menurut laporan Demokratis.co.id dan Limapagi, dalam rangkaian kemampuan keamanan yang disebut hadir pada 19 Oktober 2026. Rangkaian tersebut mencakup Guardian Agents dalam Project Perception. Fungsinya diarahkan untuk memantau aktivitas agen, mendeteksi perilaku mencurigakan, membatasi akses, dan mengurangi risiko saat agen bertindak di luar tujuan awalnya.

Penyebutan Guardian Agents dalam bahan yang tersedia berasal dari laporan media, bukan halaman pengumuman produk Microsoft yang disertakan. Karena itu, detail implementasi, ketersediaan, dan konfigurasi fiturnya belum dapat dipastikan dari sumber primer ini. Yang dapat diverifikasi langsung adalah arah Project Perception. Dalam blog Microsoft pada 27 Juli 2026, perusahaan menjelaskannya sebagai sistem keamanan agentic yang menggabungkan sinyal, konteks, model, dan agen khusus untuk mengenali risiko, memprioritaskan tindakan, lalu menjalankan perlindungan dengan manusia tetap memegang kendali.

Bagi perusahaan, berita ini relevan karena agen AI berbeda dari chatbot yang hanya memberi jawaban. Agen dapat memakai tools, membaca dokumen, mengakses sistem internal, atau menyiapkan tindakan atas nama pengguna. Ketika kemampuan tersebut diberi akses ke data dan proses kerja, keamanan perlu dirancang sebagai bagian dari workflow, bukan ditambahkan setelah agen aktif.

Mengapa agen AI memerlukan pengawasan khusus

Risiko utama bukan asumsi bahwa agen AI memiliki niat buruk. Masalah muncul saat agen salah memahami instruksi, menerima informasi berbahaya, atau memiliki izin yang melebihi tugasnya. Demokratis.co.id mengutip Hayete Gallot, Executive Vice President Microsoft Security, yang menekankan bahwa model AI terdepan tidak dapat dipercaya sepenuhnya karena perilakunya belum tentu selaras dengan seluruh aturan organisasi.

Agen AI dapat menyerupai risiko ancaman dari dalam karena ia bekerja memakai akses sah. Menurut Limapagi, agen yang telah diberi kewenangan bisa membaca dokumen, memasuki sistem internal, dan mengambil keputusan atas nama pengguna. Kecepatan eksekusinya memperbesar dampak kesalahan. Satu instruksi yang ambigu dapat menghasilkan rangkaian tindakan sebelum tim sempat meninjau hasilnya.

Perbedaannya terlihat pada tiga jenis workflow berikut. Otomasi biasa menjalankan aturan tetap, misalnya formulir masuk lalu data dicatat ke CRM. AI automation menambahkan kemampuan memahami isi formulir, misalnya mengelompokkan calon pelanggan berdasarkan kebutuhan. Agen AI dapat membaca permintaan, memilih sumber data, menyusun draf tindak lanjut, memperbarui sistem, lalu meneruskan kasus tertentu ke sales. Semakin banyak tools dan keputusan yang dapat dipakai agen, semakin ketat batas akses dan mekanisme approval yang dibutuhkan.

Untuk memahami fondasinya, pembaca dapat melihat artikel pilar Apa Itu AI Agent? Ini Cara Kerja dan Contoh Nyatanya. Pembahasan tersebut membantu membedakan agen AI dari model AI, chatbot, dan otomasi berbasis aturan.

Project Perception menunjukkan model pertahanan berbasis peran

Project Perception bukan sekadar sistem yang menghasilkan lebih banyak peringatan keamanan. Microsoft menjelaskan bahwa sistem ini ditujukan untuk terus mengenali risiko, menalar berdasarkan konteks, dan mengambil tindakan perlindungan. Dalam blog Microsoft, tujuan pertahanan tersebut dirumuskan melalui kemampuan untuk memahami, menilai, dan bertindak secara berkelanjutan saat lingkungan berubah.

Microsoft membagi agen keamanan di Project Perception ke tiga peran. Red team agents mencari kemungkinan jalur kompromi sebelum dimanfaatkan penyerang. Blue team agents menyelidiki sinyal, menilai konteks, dan menentukan risiko yang perlu ditangani. Green team agents melakukan tindakan korektif serta memperkuat pertahanan. Pembagian ini menjelaskan bahwa keamanan agen AI mencakup pencarian celah, penilaian risiko, dan perbaikan kontrol.

Sebagai ilustrasi hipotetis, sebuah perusahaan menghubungkan agen ke basis pengetahuan, CRM, dan email untuk membantu tim penjualan. Red team internal dapat menguji apakah instruksi dari dokumen yang tidak tepercaya mampu mengarahkan agen membuka data di luar kebutuhan. Blue team kemudian menilai log akses dan dampak percobaan tersebut. Jika ditemukan celah, green team mempersempit izin agen, menambahkan aturan validasi, atau menghentikan koneksi ke tools tertentu sampai masalah diperbaiki.

Pendekatan ini memberi celah yang sering terlewat dalam implementasi agen AI: evaluasi keamanan tidak cukup dilakukan saat awal peluncuran. Workflow perlu diuji kembali ketika sumber data, model, tools, atau hak akses berubah.

Inventaris agen harus mendahului kebijakan akses

Perusahaan tidak dapat mengamankan agen yang tidak mereka ketahui keberadaannya. Demokratis.co.id serta Twaslnews melaporkan perluasan Microsoft Defender guna mendeteksi 60 agen AI lokal, mencakup Claude Code, OpenAI Codex, GitHub Copilot. Angka serta daftar tersebut berasal dari laporan media yang mengutip informasi Microsoft.

Inventaris bukan berarti langsung melarang semua penggunaan agen. Tujuannya adalah memahami agen mana yang berjalan, siapa penggunanya, data apa yang disentuh, dan tools mana yang dapat dipanggil. Tanpa daftar ini, tim keamanan sulit membedakan eksperimen individual dari workflow yang sudah memproses data bisnis.

Mulailah dengan tabel sederhana berisi nama agen, pemilik proses, tujuan bisnis, sumber data, koneksi sistem, serta tindakan yang dapat dilakukan. Beri penanda khusus pada agen yang dapat mengirim email, memperbarui CRM, mengunduh dokumen, atau meneruskan informasi ke layanan eksternal. Daftar tersebut menjadi dasar untuk menentukan izin minimum dan prioritas peninjauan.

Cara membatasi tindakan agen tanpa menghambat workflow

Kontrol yang efektif memisahkan tindakan berisiko rendah dari tindakan berdampak tinggi. Agen boleh membantu meringkas tiket, mengklasifikasikan permintaan, atau membuat draf respons bila hasilnya masih diperiksa pengguna. Tindakan seperti menghapus data, mengubah catatan penting, mengirim informasi sensitif, atau menjalankan perintah yang sulit dibatalkan perlu melewati persetujuan manusia.

Sebagai contoh hipotetis, agen customer service menerima pesan pelanggan mengenai status pesanan. Agen dapat mencari artikel basis pengetahuan, menyusun jawaban, dan menandai kasus yang membutuhkan petugas. Namun, agen tidak sebaiknya mengubah alamat pengiriman, menyetujui pengembalian dana, atau membuka riwayat pelanggan secara luas tanpa aturan dan approval yang jelas. Pemisahan ini menjaga manfaat otomatisasi pada tugas rutin tanpa memberi agen kewenangan operasional berlebihan.

Buat identitas akses khusus untuk setiap agen, bukan memakai akun pribadi karyawan. Terapkan izin minimum sesuai tugas, catat tool yang dipanggil, data yang dibaca, hasil tindakan, serta pihak yang memberi persetujuan. Bila agen perlu berinteraksi dengan agen lain, pengawasan perlu mencakup hubungan antaragen karena risiko dapat berpindah melalui instruksi dan akses yang diteruskan.

Langkah praktis bagi tim sebelum menghubungkan agen ke sistem penting

Mulai dari satu workflow yang batasnya jelas. Pilih proses dengan tugas berulang, data terbatas, dan hasil yang tetap dapat ditinjau manusia. Hindari langsung memberi agen akses luas ke email, penyimpanan dokumen, CRM, dan sistem operasional sekaligus. Tujuannya adalah mengetahui perilaku agen dalam ruang kerja yang terkendali sebelum cakupannya diperluas.

Gunakan urutan kerja berikut:

1. Petakan tujuan agen dan keputusan apa yang boleh ia bantu buat.
2. Daftarkan data, sistem, dan tools yang harus diakses untuk mencapai tujuan tersebut.
3. Tentukan izin minimum untuk setiap koneksi, termasuk data yang tidak boleh dibaca agen.
4. Pisahkan tindakan otomatis dari tindakan yang wajib mendapat approval manusia.
5. Uji instruksi ambigu, dokumen tidak tepercaya, akses yang ditolak, dan kegagalan koneksi.
6. Tinjau log secara berkala, tetapkan pemilik workflow, serta sediakan cara menghentikan agen bila perilakunya menyimpang.

Andaikan tim operasional memakai agen untuk merangkum keluhan pelanggan dari sistem tiket. Uji pertama dapat membatasi agen pada akses baca ke tiket tertentu dan meminta agen hanya membuat ringkasan untuk supervisor. Tim lalu memeriksa apakah ringkasan merujuk tiket yang tepat, apakah informasi sensitif ikut muncul, dan apakah agen menyerahkan kasus yang konteksnya tidak cukup. Setelah pengujian stabil, cakupan dapat ditambah secara bertahap, misalnya memberi kemampuan membuat draf jawaban tanpa mengirimkannya otomatis.

Microsoft melalui Project Perception menekankan manusia tetap memegang kendali dalam sistem pertahanan. Setelah pemetaan akses selesai, tetapkan siapa yang berwenang mencabut akses agen ketika muncul anomali. Keputusan ini perlu jelas sebelum agen diberi koneksi baru ke sistem bisnis.