Presiden Microsoft Ingatkan AI Perlu Regulasi Mendesak untuk Cegah Risiko Global

Pernyataan Brad Smith Mengenai Kesenjangan Standar Keamanan AI dan Produk Konsumen

Presiden Microsoft ingatkan AI perlu regulasi mendesak karena standar keselamatan teknologi ini belum setara dengan produk konsumen. Brad Smith menyoroti ketimpangan pengawasan kecerdasan buatan dengan mesin cuci dan susu.

Dalam wawancara yang dikutip detikInet, Smith menyatakan mesin cuci harus memenuhi persyaratan keselamatan. Produk susu juga wajib melalui aturan keamanan serta inspeksi. Sebaliknya, AI belum menghadapi standar keselamatan setara, padahal teknologi ini dapat digunakan sebagai alat maupun senjata.

Perbandingan tersebut menekankan masalah utama: kemampuan AI berkembang cepat, sedangkan aturan penggunaan, pengujian, pertanggungjawaban, serta perlindungan korban belum selalu mengikuti. Sistem yang dapat memberi rekomendasi, mengakses data, atau menjalankan instruksi memerlukan batas tindakan jelas.

Smith mendorong beberapa agenda keselamatan:

1. Penyedia AI perlu memiliki rem darurat untuk menghentikan atau memperlambat sistem saat perilakunya lepas kendali.
2. Korban dampak AI perlu memperoleh perlindungan hukum dan jalur pertanggungjawaban jelas.
3. Pengembang perlu memastikan sistem dapat diawasi serta dikendalikan sebelum dipakai secara luas.

Kebutuhan Mekanisme Rem Darurat dan Pembongkaran Kotak Hitam Bersarang

AI tidak lagi hanya berfungsi sebagai asisten percakapan. Agen otonom multi-langkah dapat menerima instruksi, memproses informasi, memakai alat digital, lalu menjalankan tindakan lanjutan. Kemampuan ini membantu otomatisasi, tetapi juga memperbesar dampak saat sistem salah memahami konteks atau menerima instruksi berbahaya.

CEO Microsoft Satya Nadella juga menekankan pentingnya AI yang perilakunya dapat diamati dan dikendalikan. Operator perlu dapat melihat tindakan sistem, membatasi aksesnya, serta menghentikan proses sebelum kerugian meluas.

Perbandingan produk fisik dan AI menunjukkan kebutuhan kontrol konkret:

• Verifikasi sebelum digunakan — Produk konsumen umumnya melalui pemeriksaan keselamatan. AI juga perlu diuji terhadap risiko keluaran keliru, penyalahgunaan akses, serta tindakan di luar tujuan awal.
• Kontrol darurat — Produk fisik memiliki sakelar atau mekanisme pengaman. AI memerlukan prosedur penghentian yang dapat dipakai operator saat muncul anomali.
• Kepatuhan hukum — Produk fisik tunduk pada perlindungan konsumen. AI membutuhkan kejelasan kewajiban pengembang, penyedia, pengguna bisnis, serta pihak yang bertanggung jawab.
• Pemulihan dampak — Kerugian akibat produk cacat dapat memicu penarikan atau kompensasi. Organisasi pengguna AI perlu menyiapkan pelaporan insiden, pembatasan dampak, serta penanganan pengguna terdampak.

Rem darurat tidak selalu berarti mematikan seluruh layanan. Dalam perangkat lunak, kontrol ini dapat membatasi akses sistem, membekukan tindakan tertentu, atau mengalihkan keputusan kepada manusia.

Bayangkan agen AI memproses permintaan pelanggan. Sistem menerima instruksi untuk membuka data sensitif. Kontrol darurat dapat menghentikan akses, mencatat insiden, lalu meneruskan kasus kepada petugas berwenang. Kerusakan dapat dibatasi sebelum tindakan tidak sah terjadi.

Polarisasi Kebijakan Global Antara Pendekatan Inggris dan Amerika Serikat

Pemerintah Inggris tengah menyiapkan regulasi untuk memperkuat pengawasan AI di tengah kekhawatiran keselamatan dan perilaku sistem tidak terkendali. Brad Smith menilai Inggris memiliki peran penting dalam tata kelola keamanan AI global.

Perbedaan pendekatan antarnegara mencerminkan dua kepentingan: percepatan inovasi, perlindungan publik. Aturan terlalu longgar dapat membiarkan risiko berkembang tanpa pengawasan. Kepatuhan tidak proporsional dapat menyulitkan penerapan teknologi bermanfaat.

Karena itu, regulasi AI perlu berfokus pada tingkat risiko penggunaan. Sistem untuk tugas administratif berisiko rendah tidak selalu membutuhkan kontrol sama dengan sistem yang menangani data pribadi, keputusan finansial, layanan publik, atau infrastruktur penting.

Konteks ini relevan bagi perusahaan teknologi. Investasi infrastruktur AI menunjukkan teknologi makin terintegrasi dengan layanan digital. Namun, pertumbuhan penggunaan perlu disertai pengamanan. Kepercayaan pengguna dapat menurun bila perusahaan tidak dapat menjelaskan batas kemampuan AI, data yang diproses, atau tindakan saat terjadi kegagalan.

Dampak Regulasi Terhadap Kepatuhan Bisnis dan Langkah Tata Kelola di Indonesia

Pembahasan regulasi global menjadi sinyal bagi organisasi di Indonesia. Kepatuhan AI tidak cukup diselesaikan melalui syarat dan ketentuan layanan. Organisasi perlu memahami data yang diproses, tindakan yang dapat dilakukan sistem, pihak yang berwenang memberi persetujuan, serta prosedur penghentian saat muncul masalah.

Risiko AI tidak hanya berupa kebocoran data. Sistem dapat memberi akses keliru, menjalankan instruksi di luar tujuan bisnis, atau menghasilkan keputusan tanpa pengawasan memadai. Risiko meningkat saat AI terhubung dengan basis data, sistem pembayaran, layanan pelanggan, atau alat operasional internal.

Organisasi dapat memulai tata kelola melalui langkah berikut:

1. Tetapkan batas kendali manusia pada alur kerja berisiko tinggi. AI tidak boleh membuat komitmen finansial atau legal tanpa persetujuan petugas berwenang.
2. Siapkan mekanisme penghentian akses atau tindakan otomatis saat sistem menunjukkan perilaku menyimpang.
3. Simpan jejak audit atas masukan, keluaran, tindakan sistem, serta pihak yang memberi persetujuan.
4. Buat protokol insiden untuk penghentian layanan, evaluasi dampak, pemulihan, serta pemberitahuan kepada pengguna terdampak.

Peringatan Brad Smith menegaskan keselamatan sebagai syarat adopsi AI berkelanjutan. Batas tindakan, pengawasan manusia, jejak audit, serta rem darurat membantu organisasi memakai AI tanpa menyerahkan keputusan penting kepada sistem yang belum sepenuhnya dapat diprediksi.