Cegah Penipuan Deepfake, Komdigi Kaji Label Konten Buatan AI demi Perlindungan Publik

Video panggilan dari atasan, rekaman suara keluarga, atau unggahan tokoh publik kini tidak cukup dinilai dari wajah dan suaranya saja. Upaya cegah penipuan deepfake mendorong Komdigi kaji label konten buatan AI agar publik dapat memeriksa asal-usul materi digital sebelum mengambil keputusan.

Konten AI mampu meniru video, gambar, serta suara dengan semakin meyakinkan. Kondisi ini membuat pembeda antara materi autentik dan materi sintetis semakin tipis, terutama saat konten disebarkan tanpa konteks.

Apa yang sedang dikaji Komdigi terkait label konten AI

Komdigi tengah mengkaji peraturan menteri mengenai pelabelan konten yang dihasilkan AI, mencakup video, gambar, dan suara. Label itu memudahkan publik mengenali materi buatan serta melacak sumbernya.

Wakil Menteri Komunikasi dan Digital Nezar Patria menjelaskan bahwa perkembangan AI menghadirkan tantangan baru bagi keaslian informasi di ruang digital. Konten yang tampak nyata dapat dipakai untuk membangun kepercayaan palsu, memanipulasi persepsi, atau mendorong korban mengambil tindakan berisiko.

Nezar menyampaikan isu tersebut dalam Konvensi Humas Indonesia 2024 di Surakarta pada 17 Oktober 2024. Komdigi menilai kemampuan AI membuat batas antara fakta, realitas, dan materi sintetis makin sulit dikenali.

Kajian ini juga berkaitan dengan jejak keaslian atau provenance and authenticity. Konsep tersebut menekankan kebutuhan untuk mengetahui riwayat sebuah konten: dari mana materi berasal, bagaimana konten dibuat, serta apakah terdapat perubahan dalam proses penyebarannya.

Statusnya masih kajian regulasi. Publik tidak perlu menganggap semua konten AI telah memiliki label seragam atau seluruh platform telah menerapkan mekanisme penanda yang sama.

Mengapa deepfake menjadi risiko penipuan yang nyata

Deepfake berbahaya karena memanfaatkan kebiasaan manusia mempercayai wajah, suara, dan video. Pesan teks mungkin memicu kecurigaan, tetapi panggilan video dari sosok yang terlihat seperti pimpinan perusahaan, kerabat, atau pejabat dapat membuat penerima lebih cepat percaya.

Penipu biasanya juga menciptakan tekanan. Mereka dapat meminta transfer segera, perubahan rekening, pemberian kode akses, atau pengiriman dokumen internal. Situasi mendesak membuat korban fokus pada instruksi, bukan pada pemeriksaan identitas.

Komdigi mencontohkan kasus penipuan di Hong Kong sekitar dua tahun sebelumnya. Seorang staf keuangan mengikuti pertemuan virtual yang menampilkan jajaran pimpinan perusahaan. Setelah menerima instruksi dalam pertemuan tersebut, staf melakukan transfer dana berulang kali. Peserta rapat selain staf itu ternyata merupakan rekayasa digital, sehingga perusahaan mengalami kerugian finansial yang sangat besar.

Kasus tersebut menunjukkan bahwa masalah tidak berhenti pada kemampuan AI meniru manusia. Celah juga muncul pada proses persetujuan. Bila satu panggilan video dapat memicu pemindahan dana atau perubahan data penting, proses itu tetap rentan meski pelaku tidak menggunakan deepfake.

Bayangkan tim keuangan menerima video dari seseorang yang menyerupai direktur. Orang tersebut meminta pembayaran vendor dipercepat karena disebut memiliki batas waktu. Staf tidak perlu membuktikan lebih dulu apakah video itu deepfake. Langkah aman: hentikan pembayaran, hubungi direktur melalui nomor resmi yang telah tersimpan, lalu minta persetujuan kedua sesuai prosedur.

Fungsi label AI dan batas yang perlu dipahami

Label konten AI dapat menjadi sinyal awal untuk berhenti sejenak. Ketika penanda atau informasi asal-usul tersedia, pengguna memiliki alasan untuk memeriksa materi sebelum menyebarkan, mempercayai, atau bertindak berdasarkan konten tersebut.

Jejak keaslian dapat membantu mengidentifikasi konten yang telah dimanipulasi. Namun, label bukan vonis tunggal. Ketiadaan label tidak otomatis membuktikan video asli. Keberadaan label juga tidak otomatis membuktikan identitas pengirim, kebenaran instruksi, atau keamanan tindakan yang diminta.

Konten dapat dipotong, diunggah ulang, disebarkan melalui tangkapan layar, atau dilepaskan dari konteks percakapan awal. Karena itu, pengguna perlu membedakan penanda dengan verifikasi.

Penanda memberi informasi tentang status atau asal konten. Verifikasi memeriksa orang yang mengirim, tujuan permintaan, kanal komunikasi, serta tindakan yang diminta. Untuk instruksi sensitif, keduanya perlu dijalankan bersama.

Contohnya, video mungkin memiliki jejak asal-usul yang dapat diperiksa, tetapi tetap dipakai untuk mengarahkan korban ke rekening palsu. Sebelum mentransfer dana, tim perlu memeriksa rekening melalui data vendor yang telah disetujui, bukan nomor yang muncul dalam video atau pesan baru.

Peran platform, pengembang AI, dan pengguna

Komdigi menyoroti peran platform digital serta pengembang AI dalam mendeteksi deepfake dan membangun jejak otentisitas konten. Perlindungan tidak seharusnya seluruhnya dibebankan kepada pengguna yang menerima materi digital.

Platform dapat membantu melalui penanda, informasi asal-usul, serta mekanisme pendeteksian. Pengembang AI juga memiliki peran dalam mendukung identifikasi konten sintetis. Meski begitu, teknologi tidak dapat menggantikan kebiasaan pengguna untuk berhenti, memeriksa, dan mengonfirmasi.

Penipuan sering berhasil bukan hanya karena teknologi canggih, melainkan karena tekanan sosial. Pelaku dapat menyamar sebagai figur tepercaya, memakai nada panik, atau meminta tindakan segera agar korban tidak sempat mengecek ulang.

Untuk keluarga, langkah sederhana dapat berupa kata verifikasi yang hanya diketahui anggota tertentu saat ada permintaan uang mendesak melalui telepon atau video. Untuk bisnis, prosedur perlu lebih formal: persetujuan tambahan, kanal komunikasi terpisah, serta pencatatan pihak yang memberi otorisasi.

Prosedur verifikasi untuk instruksi yang berisiko

Jangan menjadikan kemampuan mengenali wajah palsu sebagai pertahanan utama. Buat proses yang tetap aman meski konten terlihat sangat meyakinkan. Pendekatan ini berguna untuk deepfake, akun dibajak, email palsu, serta kesalahan komunikasi internal.

Gunakan langkah berikut ketika menerima permintaan transfer, perubahan rekening, pembagian kredensial, atau pengiriman dokumen internal:

1. Hentikan tindakan yang diminta, terutama bila pesan mendesak penerima bertindak cepat.
2. Catat inti instruksi tanpa mengklik tautan, menghubungi nomor baru, atau memakai kontak yang dikirim pengirim.
3. Konfirmasi identitas melalui kanal kedua yang telah dikenal, seperti nomor resmi, sistem internal, atau kontak tersimpan.
4. Periksa kesesuaian instruksi dengan prosedur serta kewenangan pemberi instruksi.
5. Minta persetujuan tambahan untuk transaksi atau akses sensitif, lalu dokumentasikan keputusan.

Bayangkan admin menerima pesan suara yang mengaku dari pemilik bisnis dan meminta perubahan rekening pembayaran vendor. Admin mencatat permintaan, membuka data vendor yang telah terverifikasi, lalu menghubungi pemilik melalui nomor resmi. Perubahan hanya diproses setelah persetujuan kedua dan konfirmasi rekening melalui jalur terpisah.

Mulai dari satu proses paling berisiko: transfer dana, pergantian rekening, atau permintaan kode akses. Tentukan kanal konfirmasi yang sah, pihak pemberi persetujuan kedua, serta langkah penghentian transaksi. Label konten AI dapat memberi tanda awal; prosedur verifikasi memastikan tanda tersebut diikuti tindakan aman.