Microsoft Luncurkan Fitur untuk Mengendalikan Agen AI Perusahaan demi Tata Kelola Aman

Apa yang Microsoft umumkan untuk pengendalian agen AI

Microsoft luncurkan fitur untuk mengendalikan agen AI perusahaan melalui pendekatan keamanan yang memantau serta membatasi tindakan agen di lingkungan kerja. Menurut Microsoft dalam artikel Securing the Agentic Insider pada Oktober 2026, agen AI telah menjadi peserta aktif di perusahaan karena dapat mengakses data, tools, serta sistem untuk mengambil tindakan dalam proses penting.

LensaHukum melaporkan pada 20 Oktober 2026 bahwa pendekatan tersebut mencakup Guardian Agents dalam Project Perception. LensaHukum melaporkan fungsi tersebut mencakup pendeteksian aktivitas mencurigakan dan pembatasan akses agen. Laporan yang sama menyebut Microsoft Defender memperluas kemampuan untuk mendeteksi agen AI yang digunakan di perangkat kerja.

Fokus pengumuman ini bukan larangan memakai agen AI. Microsoft menempatkan agen sebagai identitas operasional baru yang perlu diketahui perusahaan: agen mana yang berjalan, data apa yang dapat dibaca, tool apa yang boleh dipanggil, dan tindakan apa yang telah dilakukan.

Agen AI berbeda dari chatbot percakapan biasa. Chatbot umumnya menerima pertanyaan lalu menghasilkan jawaban. Agen AI dapat memakai model untuk memahami tujuan, memilih tool, membaca informasi, menjalankan beberapa langkah, lalu menghasilkan tindakan. Saat tindakan itu menyentuh CRM, email, dokumen internal, atau sistem lain, risiko keamanan tidak lagi berhenti pada kualitas jawaban.

Mengapa agen AI dapat menjadi risiko internal

Agen AI dapat menjadi risiko internal ketika memiliki akses sah, tetapi menggunakan akses itu di luar konteks tugas yang seharusnya. Microsoft menyebut kondisi ini sebagai risiko agentic insider: agen mempunyai akses ke data, tools, dan sistem, lalu dapat mengambil tindakan atau keputusan dalam proses perusahaan. Risiko tersebut menyerupai ancaman orang dalam, meski agen bekerja otomatis dan tidak memiliki pertimbangan organisasi seperti manusia.

Hayete Gallot, Executive Vice President Microsoft Security, menyatakan bahwa model-model AI terdepan tidak dapat dipercaya sepenuhnya, dilaporkan Teknologi Qoo10. Ia menjelaskan bahwa perilaku agen AI tidak selalu dapat diprediksi, meski model tidak selalu berniat jahat atau mudah diretas.

LensaHukum mengutip pengumuman Microsoft bahwa perilaku model AI perlu diawasi dalam penggunaan perusahaan. Maksudnya bukan model selalu berbahaya atau mudah diretas. Masalahnya, perilaku model dapat sulit diprediksi saat menerima instruksi ambigu, data yang menyesatkan, atau permintaan yang bertentangan dengan aturan internal.

Pengawasan model dan pengawasan agen perlu dipisahkan. Model memproses bahasa, dokumen, atau data. Agen memakai model itu untuk memanggil tool dan bertindak. Perusahaan karena itu perlu memeriksa empat lapisan: instruksi agen, data yang dapat diakses, izin tool, serta catatan tindakan. Memeriksa output teks saja tidak cukup bila agen dapat membuat tiket, memperbarui CRM, atau mengirim email.

Sebagai ilustrasi hipotetis, tim layanan pelanggan memberi agen akses ke basis pengetahuan, sistem tiket, dan kotak masuk bersama. Agen boleh membaca pertanyaan masuk, mencari artikel bantuan, lalu menyusun draf respons. Pengiriman email eksternal, penutupan tiket komplain, dan perubahan data pelanggan tetap memerlukan persetujuan staf. Log perlu mencatat sumber pertanyaan, dokumen yang dirujuk, draf yang dibuat, serta nama pemberi persetujuan.

Kontrol yang perlu ada dalam workflow agen AI

Workflow agen AI perlu membatasi data, tool, tindakan otomatis, serta kondisi yang wajib mendapat persetujuan manusia sejak awal perancangan. Mulailah dari keputusan bisnis yang hendak dibantu, bukan dari daftar tool. Tentukan hasil yang diinginkan, pemilik proses, data yang diperlukan, tindakan berisiko, dan kondisi saat agen wajib berhenti untuk meminta bantuan manusia.

Workflow sederhana dapat dibedakan menjadi tiga tingkat. Otomasi berbasis aturan menjalankan urutan tetap, misalnya formulir masuk lalu data diteruskan ke CRM. AI automation menambahkan AI untuk membaca isi formulir dan mengklasifikasikan kebutuhan sebelum data dicatat. Agen AI mempunyai ruang keputusan lebih besar: ia dapat memahami kebutuhan, mencari konteks dari sumber yang diizinkan, memakai tool, dan mengusulkan langkah berikutnya.

Perbedaan ini menentukan kontrol yang dibutuhkan. Formulir ke CRM mungkin cukup memakai validasi data dan hak akses aplikasi. Agen yang dapat menilai prospek, mengubah status CRM, atau mengirim penawaran memerlukan batas tindakan yang lebih rinci. Sistem harus membedakan tindakan baca, tindakan membuat draf, tindakan mengubah data, serta tindakan eksternal seperti mengirim pesan ke pelanggan.

Misalnya, workflow kualifikasi prospek dapat disusun seperti ini:

1. Formulir prospek masuk ke sistem.
2. Agen membaca kebutuhan awal dan memberi label prioritas berdasarkan aturan yang ditetapkan tim sales.
3. Agen membuat ringkasan di CRM dengan sumber informasi dari formulir.
4. Agen menyiapkan draf follow-up untuk ditinjau sales.
5. Sales menyetujui, mengedit, atau menolak pesan sebelum pesan dikirim.
6. Sistem menyimpan log instruksi, data masukan, tool yang dipanggil, keputusan agen, dan keputusan manusia.

Batas ini membantu perusahaan mempertahankan kendali tanpa menghilangkan manfaat workflow. Agen dapat mengurangi pekerjaan repetitif pada tahap membaca, merangkum, dan mengelompokkan. Keputusan yang memengaruhi pelanggan, data penting, transaksi, atau hak akses tetap berada pada orang yang bertanggung jawab atas proses tersebut.

Visibilitas dan izin lebih penting daripada memberi akses luas

Visibilitas atas agen yang digunakan dan izin minimum sesuai tugas adalah dasar keamanan agen AI. Microsoft menyatakan dalam Securing the Agentic Insider bahwa keamanan agen membutuhkan pemantauan berkelanjutan dan manajemen risiko yang dinamis. Tim keamanan perlu mengetahui agen yang digunakan, siapa penggunanya, sistem yang terhubung, serta jenis akses yang diberikan kepada setiap agen.

Twasl News, 20 Oktober 2026, melaporkan Microsoft Defender mampu mendeteksi 60 tipe agen karyawan, seperti Claude Code, Codex, OpenClaw. Angka tersebut adalah laporan media, bukan alasan untuk menganggap seluruh agen pada daftar itu berisiko. Nilainya terletak pada kemampuan organisasi untuk menemukan penggunaan agen yang sebelumnya tidak tercatat dalam inventaris internal.

Izin sebaiknya mengikuti tugas minimum yang diperlukan. Agen untuk menyusun ringkasan rapat tidak perlu mendapat izin menghapus dokumen. Agen untuk membuat draf respons pelanggan tidak perlu memperoleh akses untuk mengubah hak pengguna. Pembatasan seperti ini memperkecil dampak bila agen salah memahami instruksi atau menerima masukan yang berbahaya.

Sebagai contoh hipotetis lain, tim keuangan memakai agen untuk mengekstrak informasi dari faktur dan menyiapkan data pembayaran. Agen boleh membaca folder faktur yang ditentukan serta mengisi draf transaksi. Agen tidak boleh menyetujui pembayaran, mengganti rekening tujuan, atau mengubah batas otorisasi. Manajer keuangan memeriksa data dan menyetujui transaksi melalui sistem yang telah digunakan perusahaan.

Kontrol akses juga perlu disertai jalur penghentian. Pemilik proses harus dapat menonaktifkan agen, mencabut koneksi tool, atau membatasi workflow saat ditemukan perilaku yang menyimpang. Tanpa mekanisme ini, catatan audit hanya membantu investigasi setelah dampak terjadi.

Langkah praktis sebelum menerapkan agen AI di perusahaan

Perusahaan tidak perlu memulai dari workflow paling besar. Pilih satu proses dengan pemilik jelas, data terbatas, dan dampak yang dapat dibatalkan. Contohnya pembuatan draf respons layanan pelanggan internal atau peringkasan lead sebelum ditinjau sales. Hindari memberi agen kewenangan langsung pada pembayaran, penghapusan data, perubahan akses, atau komunikasi eksternal tanpa tahap persetujuan.

Buat tabel keputusan sederhana sebelum integrasi dimulai. Kolomnya dapat berisi tindakan agen, sistem yang diakses, data yang dipakai, risiko bila salah, pihak pemberi approval, dan cara menghentikan workflow. Tabel ini memaksa tim operasional, keamanan, serta pemilik proses menyepakati batas kerja agen sebelum masalah muncul.

Untuk memahami rancangan workflow operasionalnya, pembaca dapat melihat artikel pilar Cara Menerapkan Agen AI Perusahaan untuk Mengoptimalkan Operasional Bisnis. Dalam penerapan awal, gunakan data non-sensitif atau lingkungan terpisah. Uji apakah agen memanggil tool yang benar, apakah log dapat dibaca, dan apakah manusia dapat menghentikan tindakan sebelum workflow diberi akses produksi.

Langkah berikutnya: pilih satu workflow minggu ini, lalu lakukan rapat singkat antara pemilik proses, tim keamanan, dan operator. Putuskan tiga hal secara tertulis: tindakan yang boleh otomatis, tindakan yang wajib mendapat approval, serta orang yang berwenang mematikan agen. Setelah itu baru pilih konfigurasi dan tool yang sesuai.