Membangun Kepercayaan di Tengah Pertumbuhan Ekonomi AI Indonesia

Bali Tech Week 2026 mengangkat pertanyaan yang lebih penting dari adopsi AI

Membangun kepercayaan di tengah pertumbuhan ekonomi AI Indonesia tidak cukup dinilai dari banyaknya organisasi yang memakai kecerdasan buatan. Pertanyaan yang lebih menentukan adalah apakah sistem tersebut aman, dapat diawasi, dan menciptakan nilai yang bertahan bagi bisnis, pekerja, serta pengguna digital.

Bali Tech Week 2026 memasuki hari kedua dengan AICX, HUB.ID Global Summit, serta pertemuan Meutya Hafid bersama Menteri untuk mengulas pertanyaan tersebut. Fahmi Fadzil, Menteri Komunikasi Malaysia, membahas keamanan anak di dunia maya. Menurut InvestorTrust, forum tersebut menghubungkan adopsi AI dengan keamanan siber, investasi startup, kerja sama regional, dan perlindungan pengguna internet.

NasionalNews melaporkan AICX 2026 berlangsung di Bali Beach Convention Center, kolaborasi ITSEC Asia-Kementerian Komunikasi dan Digital. Lebih dari 600 peserta, 25 narasumber lintas pemerintah, industri, regulator, akademisi hadir dalam forum “AI, Cyber & Quantum: Indonesia’s Next Chapter”. Skala diskusinya menunjukkan bahwa AI tidak lagi diperlakukan sebagai isu teknis yang hanya dibahas tim teknologi informasi.

Menurut Patrick Dannacher, Presiden Direktur ITSEC Asia, keputusan mengenai AI dan keamanan siber memengaruhi keberlangsungan bisnis, daya saing, serta kepentingan nasional, sebagaimana dikutip NasionalNews. Konsekuensinya jelas: pimpinan organisasi perlu ikut menentukan batas penggunaan AI, bukan hanya meminta tim teknis memasang sistem baru.

Kepercayaan muncul dari batas yang dapat diperiksa

Kepercayaan pada AI terbentuk ketika organisasi dapat menjawab empat hal: data apa yang diproses, siapa yang boleh mengaksesnya, tindakan apa yang boleh dijalankan sistem, dan siapa yang bertanggung jawab jika hasilnya keliru. Tanpa jawaban tersebut, penggunaan AI pada proses penting dapat menambah risiko operasional.

Menurut NasionalNews, AI meningkatkan efisiensi serta kualitas keputusan, namun tanpa tata kelola data, kontrol akses, keamanan sistem, dan pengawasan berkelanjutan, risikonya membesar. Risiko itu makin relevan saat AI digunakan untuk data pelanggan, transaksi keuangan, atau fungsi bisnis yang penting.

Sebagai ilustrasi hipotetis, sebuah perusahaan menerima formulir permintaan produk dari calon pelanggan. Sistem dapat mencatat formulir ke CRM berdasarkan aturan tetap. Saat AI dipakai untuk membaca kebutuhan pelanggan lalu memberi kategori awal, organisasi perlu memeriksa apakah data formulir boleh dikirim ke layanan AI dan siapa yang berhak melihat hasil klasifikasinya.

Jika sistem kemudian diberi wewenang menyiapkan pesan tindak lanjut, batasnya perlu lebih tegas. Draf pesan boleh dibuat otomatis, tetapi pengiriman kepada pelanggan dapat tetap menunggu persetujuan staf. Catatan keputusan, koreksi staf, dan alasan pengalihan ke manusia memberi bahan untuk meninjau apakah workflow tersebut layak diperluas.

Keamanan siber perlu masuk sebelum integrasi dimulai

Kesalahan umum dalam proyek AI adalah memulai dari pilihan aplikasi atau model, lalu baru memikirkan data dan proses bisnis. Pendekatan ini berisiko membuat sistem terhubung ke sumber data yang tidak relevan, memberi hak akses terlalu luas, atau tidak memiliki pemilik keputusan saat terjadi kesalahan.

NasionalNews menilai keamanan, akuntabilitas, ketahanan harus diprioritaskan sejak awal saat AI menangani data pelanggan, transaksi keuangan, fungsi bisnis krusial.

Langkah awal yang lebih aman adalah memetakan satu workflow secara utuh. Tulis pemicu proses, data yang masuk, pihak yang menggunakan data, keputusan yang dibuat, tindakan lanjutan, dan kondisi kegagalan. Pemetaan ini membantu membedakan proses yang cukup dijalankan otomatis dari proses yang masih memerlukan penilaian manusia.

Andaikan tim layanan pelanggan ingin memakai AI untuk merangkum pertanyaan masuk. Workflow dapat dibatasi pada penerimaan chat, pengelompokan topik, penyusunan ringkasan, lalu penyerahan ringkasan kepada agen manusia. Sistem tidak perlu langsung diberi akses untuk mengubah data pelanggan atau mengirim jawaban tanpa pemeriksaan. Ruang lingkup sempit seperti ini membuat risiko lebih mudah dilihat dan diperbaiki.

Talenta lokal menentukan nilai ekonomi yang tinggal di Indonesia

Adopsi teknologi dapat berlangsung lebih cepat daripada kemampuan untuk mengoperasikan, menyesuaikan, mengamankan, dan mengawasinya. Karena itu, ekonomi AI tidak hanya membutuhkan pengguna teknologi. Kebutuhan Indonesia mencakup pakar kecerdasan buatan, spesialis siber, ilmuwan data, serta pendidik.

Edwin Hidayat Abdullah, Direktur Jenderal Ekosistem Digital, menyoroti kebutuhan memperkuat kemampuan dalam negeri melalui pengembangan kelompok talenta tersebut, menurut NasionalNews. Menurutnya, kekurangan SDM dapat membuat perusahaan Indonesia mengandalkan sistem serta pakar asing, membatasi manfaat ekonomi bagi industri dan pekerja lokal.

Kebutuhan talenta ini tidak selalu berarti setiap organisasi harus membangun model AI sendiri. Banyak pekerjaan penting berada pada penerjemahan proses bisnis ke kebutuhan sistem, pengelolaan akses, pemeriksaan kualitas keluaran, pengamanan integrasi, dan pelatihan pengguna. Peran tersebut menentukan apakah teknologi benar-benar sesuai dengan konteks kerja organisasi.

Contoh hipotetisnya, sebuah koperasi ingin memakai AI untuk membantu merangkum pertanyaan anggota. Tim internal dapat menetapkan materi apa yang boleh masuk ke basis pengetahuan, siapa yang memperbarui informasi, dan kapan pertanyaan harus dialihkan ke petugas. Keterampilan tersebut berbeda dari sekadar mencoba aplikasi AI, karena fokusnya berada pada pengelolaan proses dan tanggung jawab.

Perlindungan pengguna adalah bagian dari tata kelola ekonomi digital

Tata kelola AI tidak berhenti pada keamanan perusahaan. Produk digital juga dapat memengaruhi pengguna yang tidak memiliki kendali penuh atas data, konten, atau bentuk interaksi yang mereka terima. Perlindungan kelompok rentan perlu dipertimbangkan ketika layanan digital bertambah luas dan saling terhubung.

Menurut InvestorTrust, Meutya Hafid dan Fahmi Fadzil membahas perlindungan anak di ruang digital pada hari kedua Bali Tech Week 2026. Pertemuan itu menunjukkan bahwa perlindungan pengguna menjadi bagian dari kerja sama regional, bersamaan dengan agenda keamanan siber, AI, investasi startup, dan tata kelola digital.

Bagi pengelola produk, pertanyaan praktisnya adalah apakah sistem mengenali kondisi yang memerlukan eskalasi. Sebagai ilustrasi hipotetis, layanan digital yang menerima laporan pengguna dapat memakai AI untuk membantu mengelompokkan laporan berdasarkan topik. Namun, laporan yang berpotensi melibatkan keselamatan anak atau risiko serius perlu memiliki jalur penanganan manusia yang jelas, bukan hanya respons otomatis.

Pengawasan juga membutuhkan pemilik yang dapat mengambil keputusan. Tim perlu mengetahui siapa yang menerima laporan, siapa yang mengevaluasi keluaran sistem, dan apa yang dilakukan ketika klasifikasi AI salah. Kejelasan peran seperti ini membuat perlindungan pengguna menjadi proses operasional, bukan sekadar pernyataan kebijakan.

Mulai dari satu workflow yang dapat ditinjau

Organisasi tidak perlu memulai dengan sistem yang menjalankan banyak tindakan sendiri. Pilih satu proses internal yang berulang, ruang lingkup datanya jelas, dan memiliki pemilik proses. Tujuannya bukan membuktikan bahwa AI dapat dipasang di semua tempat, melainkan membangun cara kerja yang aman untuk mengevaluasi manfaat dan risikonya.

Gunakan daftar kerja berikut sebelum implementasi: tentukan tujuan proses; identifikasi data yang diproses; batasi pihak yang memiliki akses; pisahkan tindakan otomatis dari tindakan yang memerlukan persetujuan; tetapkan pemilik proses; simpan catatan koreksi dan kegagalan. Daftar ini sejalan dengan penekanan AICX 2026 pada keamanan, akuntabilitas, ketahanan, dan pengawasan, menurut NasionalNews.

Mulai minggu ini, pilih satu workflow seperti penanganan formulir masuk atau ringkasan pertanyaan pelanggan. Dokumentasikan alur kerja saat ini dalam satu halaman. Setelah itu, tandai satu langkah yang boleh dibantu AI tanpa memberi wewenang untuk mengambil tindakan penting. Bawa peta tersebut ke diskusi bersama pemilik proses bisnis dan tim teknologi untuk menilai data, akses, serta jalur eskalasinya.