IMF Peringatkan Risiko AI Tanpa Pengaman Memadai bagi Ekonomi

Apa isi peringatan IMF tentang risiko AI

IMF peringatkan risiko AI tanpa pengaman memadai bagi ekonomi, pekerjaan, dan masyarakat. Manfaat AI perlu berjalan bersama aturan keselamatan serta mekanisme perlindungan. Tanpa pengaman, kemampuan AI yang berkembang cepat dapat menimbulkan kerugian sosial dan ekonomi lebih besar daripada manfaatnya.

Dalam forum tahunan IMF-Bank Dunia, 16 Oktober 2026, Direktur Pelaksana Kristalina Georgieva menyampaikan peringatan pada diskusi AI and the Global Economy From Risk to Opportunity. Menurut Warta Ekonomi, Georgieva menggambarkan perkembangan AI sebagai mobil Formula 1 yang melaju cepat tanpa pagar pengaman. Maksudnya bukan menghentikan teknologi, tetapi memastikan ada batas ketika sistem gagal atau menghasilkan keputusan merugikan.

Dalam laporan yang sama, Georgieva menilai AI berpotensi membantu kemajuan ekonomi dan kehidupan manusia. Namun, potensi itu tidak menghapus kebutuhan atas standar keselamatan. Organisasi perlu menjawab pertanyaan sebelum memakai AI dalam proses penting: data apa yang diproses, keputusan apa yang dapat dibuat sistem, siapa yang memeriksa hasilnya, serta siapa yang bertanggung jawab saat terjadi kesalahan.

Jack Clark, salah satu pendiri Anthropic, juga menilai standar keselamatan AI tidak seharusnya hanya ditentukan perusahaan teknologi. Menurut Warta Ekonomi, ia membandingkan ketatnya regulasi produk sehari-hari dengan pengawasan atas sistem AI berkemampuan tinggi. Batas risiko perlu melibatkan regulator, perusahaan, pekerja, serta pengguna terdampak.

Mengapa peringatan IMF relevan bagi pekerjaan dan ketimpangan

Risiko AI tidak hanya muncul saat perusahaan memakai chatbot untuk menjawab pertanyaan sederhana. Dampaknya lebih besar ketika AI membantu menyaring kandidat kerja, memprioritaskan calon pelanggan, merangkum keluhan, merekomendasikan keputusan kredit, atau memberi masukan bagi keputusan operasional. Kesalahan pada tahap tersebut dapat memengaruhi akses seseorang terhadap pekerjaan, layanan, atau perlakuan adil.

Pojok Batam melaporkan perkiraan IMF bahwa banyak pekerjaan global berpotensi terdampak AI. Laporan itu juga menyebut paparan diperkirakan lebih tinggi di negara maju, sekitar 60 persen, dibandingkan sekitar 23 persen di negara berpenghasilan rendah. Paparan tidak berarti seluruh pekerjaan akan hilang. Sebagian tugas dapat berubah atau terbantu AI, sementara sebagian lain berisiko berkurang. Organisasi tidak boleh menyamakan “terpapar AI” dengan “digantikan AI”.

Pekerja muda patut mendapat perhatian khusus. Menurut laporan Pojok Batam yang mengutip pernyataan Georgieva, pekerjaan tingkat pemula kerap berisi tugas rutin dan berulang yang menjadi pintu masuk memperoleh pengalaman kerja. Jika tugas awal berkurang tanpa jalur pembelajaran pengganti, lulusan baru dapat kehilangan kesempatan membangun pengetahuan praktis sebelum naik ke peran lebih kompleks.

Ketimpangan dapat melebar bila manfaat AI hanya dinikmati organisasi dengan data rapi, modal, infrastruktur, serta tenaga kerja terampil. Pengaman perlu mencakup pelatihan ulang, proses keberatan bagi pengguna terdampak keputusan AI, serta pemeriksaan apakah hasil sistem berbeda secara tidak wajar untuk kelompok tertentu. Ini bagian dari upaya menjaga manfaat ekonomi AI tetap dapat diakses lebih luas.

Bedakan automation, AI automation, dan AI agent sebelum mengatur risikonya

Pengaman yang tepat bergantung pada jenis sistem yang digunakan. Automation menjalankan aturan tetap berdasarkan pemicu, seperti formulir masuk lalu data otomatis dicatat ke CRM. AI automation memakai AI untuk memahami atau mengolah informasi dalam workflow, misalnya mengelompokkan isi formulir sebelum data diteruskan ke CRM.

AI agent memiliki ruang tindakan lebih luas. Sistem ini dapat memakai konteks dan alat untuk menjalankan beberapa langkah menuju tujuan tertentu. Risiko meningkat ketika agent dapat membaca data, mencari informasi, mengubah catatan, atau mengirim komunikasi tanpa pemeriksaan. Istilah ini tidak boleh dipakai sembarangan untuk semua tool AI atau chatbot.

Sebagai ilustrasi hipotetis, tim penjualan menerima lead dari formulir situs. Automation dasar hanya memindahkan data formulir ke CRM. AI automation dapat membaca kebutuhan calon pelanggan lalu memberi label “perlu demo”, “butuh informasi”, atau “bukan target”. AI agent baru relevan jika sistem menganalisis kebutuhan, memeriksa informasi pendukung dari sumber yang diizinkan, memperbarui CRM, menyiapkan draf tindak lanjut, lalu meminta persetujuan sales sebelum pesan dikirim.

Perbedaan tersebut menentukan kontrol. Workflow formulir ke CRM mungkin cukup memakai validasi data dan pembatasan akses. Sistem yang menentukan prioritas lead atau mengirim komunikasi ke pelanggan membutuhkan pengujian hasil, catatan aktivitas, jalur eskalasi, serta persetujuan manusia untuk tindakan berdampak langsung.

Pengaman praktis sebelum AI dipakai dalam proses bisnis

Pengaman AI sebaiknya dibangun dari workflow, bukan ditempel setelah sistem berjalan. Mulailah dengan memetakan proses kerja saat ini, titik keputusan, sumber data, pihak terdampak, serta konsekuensi bila hasil AI salah. Peta ini membantu tim membedakan tugas berisiko rendah, seperti merangkum dokumen internal, dari tugas berisiko lebih tinggi, seperti memberi rekomendasi terkait pelanggan atau karyawan.

Gunakan lima kontrol berikut sebagai titik awal:

1. Batasi tujuan sistem. Tentukan satu tugas jelas. Hindari memberi AI akses luas hanya karena akses tersedia.
2. Tentukan data yang boleh dipakai. Pisahkan data sensitif. Batasi pihak yang dapat mengakses hasil maupun log sistem.
3. Tetapkan tindakan yang wajib disetujui manusia. Keputusan terkait uang, pelanggan, karyawan, akses akun, atau perubahan data penting sebaiknya memiliki approval.
4. Uji sebelum memperluas penggunaan. Periksa sampel hasil AI terhadap penilaian staf. Catat pola kesalahan.
5. Siapkan jalur perbaikan. Tentukan pemilik proses, cara menghentikan workflow, cara membetulkan data, serta pihak penerima eskalasi.

Misalnya, sebuah tim layanan pelanggan ingin memakai AI untuk membuat ringkasan percakapan. Ruang lingkup awal dapat dibatasi pada ringkasan internal, bukan pengiriman jawaban otomatis. Supervisor membandingkan ringkasan AI dengan percakapan asli, mencatat kesalahan konteks, lalu memperbaiki instruksi atau aturan penggunaan. Keluhan sensitif, permintaan penghapusan data, serta kasus tidak jelas tetap dialihkan ke staf.

Ukuran yang lebih berguna bukan sekadar jumlah tiket yang diproses AI. Tim dapat memantau ketepatan ringkasan, jumlah eskalasi yang tepat, jenis kesalahan berulang, serta waktu yang diperlukan untuk memperbaiki kesalahan. Pengukuran ini membuat pengawasan menjadi kegiatan operasional, bukan dokumen kebijakan yang tidak dipakai.

Peran pemerintah dan perusahaan tidak dapat dipisahkan

Peringatan IMF menempatkan keselamatan AI sebagai isu ekonomi dan sosial, bukan semata urusan teknis perusahaan pembuat model. Menurut Cirebon Times, Jack Clark menyatakan pemerintah perlu terlibat agar standar keamanan tidak hanya bergantung pada perusahaan teknologi. Keterlibatan publik penting karena dampak AI dapat menjangkau pekerja, konsumen, serta institusi yang tidak ikut membangun sistemnya.

Di tingkat perusahaan, tanggung jawab dimulai dari tata kelola penggunaan AI. Pemimpin bisnis perlu mengetahui sistem apa yang dipakai tim, data apa yang masuk ke dalamnya, serta tindakan apa yang dapat dilakukan secara otomatis. Tim operasional perlu memiliki wewenang menghentikan sistem ketika hasilnya menyimpang, bukan sekadar diminta memperbaiki dampaknya setelah masalah terjadi.

Regulasi memiliki peran berbeda. Pemerintah dapat menetapkan standar minimum, kewajiban akuntabilitas, serta perlindungan bagi pihak terdampak. Perusahaan tetap harus menerjemahkan standar itu menjadi kontrol harian: pengelolaan akses, peninjauan hasil, pencatatan perubahan, serta proses penanganan insiden. Satu pihak tidak dapat menggantikan tugas pihak lain.

Untuk pembaca yang mengikuti risiko penggunaan AI pada kelompok muda, tersedia artikel pilar berjudul Nezar Patria Ingatkan Risiko Ketergantungan AI pada Anak. Konteksnya berbeda, tetapi keduanya menyoroti kebutuhan batas penggunaan serta pendampingan manusia.

Mulai dari satu workflow berisiko rendah

Jangan memulai dari pembelian tool atau target otomatisasi besar. Pilih satu workflow yang sudah dipahami tim, misalnya peringkasan percakapan pelanggan atau klasifikasi formulir masuk. Tulis tujuan, data yang digunakan, hasil yang diharapkan, kesalahan yang mungkin terjadi, serta titik ketika manusia harus mengambil alih.

Setelah itu, jalankan uji terbatas dengan data yang sesuai izin penggunaan. Bandingkan hasil AI dengan pekerjaan staf, kumpulkan kesalahan, lalu putuskan apakah workflow layak diperluas, perlu diubah, atau harus dihentikan. Langkah kecil ini memberi organisasi bukti operasional sebelum AI diberi akses lebih besar.

Sebelum memilih tool berikutnya, tetapkan pemilik workflow dan jadwal peninjauan hasilnya. Pertanyaan yang perlu dijawab: apakah tim masih dapat menjelaskan alasan di balik setiap keputusan yang dibantu AI?