Gubernur New York Teken UU Lindungi Anak dari Chatbot AI

Apa yang terjadi saat gubernur New York teken UU lindungi anak dari chatbot AI?

Gubernur Negara Bagian New York Kathy Hochul menandatangani undang-undang perlindungan anak dari risiko chatbot AI pada 28 Oktober 2026. ANTARA, yang mengutip pernyataan kantor gubernur melalui Xinhua, melaporkan penandatanganan tersebut pada 31 Oktober 2026.

Perusahaan dilarang menyediakan fitur chatbot tertentu bagi pengguna berumur kurang dari 18 tahun berdasarkan ketentuan baru. ANTARA melaporkan larangan atas chatbot yang menyamar sebagai manusia, memicu ketergantungan emosional, mengajak menyakiti diri, atau berdialog seksual eksplisit.

Fokusnya bukan pelarangan seluruh chatbot AI. Anak tetap dapat berinteraksi dengan sistem digital dalam konteks tertentu, tetapi penyedia layanan tidak boleh merancang atau menyediakan pengalaman percakapan yang mengarah pada hubungan personal manipulatif, percakapan seksual eksplisit, atau respons yang dapat membahayakan keselamatan pengguna muda.

CaraPandang melaporkan ketentuan yang lebih spesifik mengenai fitur yang menyimulasikan hubungan pertemanan atau romantis bagi pengguna di bawah 18 tahun. Laporan tersebut juga menyebut kewajiban verifikasi usia bagi perusahaan chatbot. Artinya, usia tidak lagi cukup diperlakukan sebagai informasi profil yang diisi pengguna tanpa dampak pada akses fitur.

Larangan, denda, dan kanal pengaduan dalam aturan New York

ANTARA melaporkan pelanggar UU berpotensi didenda secara perdata sampai 25.000 dolar AS. Jaksa agung negara bagian dapat mengajukan tuntutan atas dugaan pelanggaran tersebut. Besaran denda bukan berarti setiap pelanggaran otomatis menghasilkan nilai yang sama, karena laporan ANTARA menyebutnya sebagai batas hingga jumlah tersebut.

ANTARA melaporkan undang-undang tersebut menyediakan laman publik bagi warga New York untuk melaporkan dugaan pelanggaran oleh perusahaan chatbot. Kanal pengaduan memberi jalur bagi pengguna, orang tua, atau pihak lain untuk membawa dugaan masalah ke perhatian regulator tanpa harus bergantung pada mekanisme laporan internal platform.

Dua komponen ini perlu dibaca bersama. Larangan menentukan perilaku atau fitur yang tidak boleh disediakan bagi anak. Mekanisme penegakan memberi konsekuensi ketika perusahaan diduga mengabaikannya. Sementara itu, situs pengaduan membuka pintu agar dugaan pelanggaran dapat dilaporkan oleh publik.

Sebagai ilustrasi hipotetis, sebuah aplikasi percakapan menyediakan mode khusus remaja. Jika mode itu tetap memakai bahasa yang mendorong pengguna menganggap chatbot sebagai pasangan atau teman eksklusif, tim produk perlu menilai ulang desainnya. Dalam konteks aturan yang diberitakan, masalahnya tidak berhenti pada kata-kata tertentu, melainkan tujuan dan pola interaksi yang disediakan kepada pengguna di bawah 18 tahun.

Mengapa desain chatbot menjadi perhatian regulator?

Chatbot AI menghasilkan respons berdasarkan konteks percakapan. Sifat ini berbeda dari formulir digital atau otomasi sederhana yang bergerak dengan aturan tetap. Formulir dapat menerima data lalu mengirim notifikasi. Chatbot dapat melanjutkan dialog, menyesuaikan nada bahasa, dan memberi respons yang terasa personal bagi pengguna.

Bagaimana membedakan chatbot informatif dan chatbot yang membangun keterlibatan personal?

Chatbot informatif membantu pengguna melalui fungsi layanan tanpa berpura-pura menjadi manusia atau membangun ketergantungan emosional. Chatbot menjadi berbahaya saat menyamar sebagai manusia, memupuk ketergantungan emosional, menghasut tindakan menyakiti diri, atau membahas seks secara eksplisit.sit dengan pengguna di bawah 18 tahun, menurut ANTARA.

Pada pengguna anak, desain percakapan dapat mengaburkan batas antara layanan otomatis dan hubungan antarmanusia. Karena itu, larangan yang diberitakan menyorot peniruan manusia, ketergantungan emosional, percakapan seksual eksplisit, serta dorongan mencelakai diri sendiri. Keempatnya berkaitan dengan risiko ketika percakapan dianggap sebagai pengganti relasi, pengawasan, atau bantuan manusia.

Platform perlu membedakan chatbot informatif dengan chatbot yang sengaja mempertahankan keterlibatan personal. Asisten belajar yang menjelaskan materi pelajaran memiliki tujuan berbeda dari fitur yang memosisikan diri sebagai teman dekat atau pasangan virtual. Perbedaan tujuan tersebut seharusnya terlihat dalam bahasa sistem, batas respons, aturan akses, dan proses penanganan percakapan berisiko.

Contoh hipotetis lain: layanan pendidikan membuat chatbot untuk membantu siswa memahami soal matematika. Fitur yang sesuai tujuan dapat menjelaskan langkah pengerjaan, meminta siswa mencoba kembali, atau mengarahkan ke materi pembelajaran. Ketika percakapan bergeser ke topik keselamatan diri atau konten dewasa, sistem tidak seharusnya meneruskan percakapan personal tanpa batas. Tim layanan perlu menentukan respons aman dan jalur pengalihan ke petugas manusia sebelum fitur dibuka.

Dampaknya bagi platform chatbot dan tim pengembang AI

Bagi platform, verifikasi usia perlu dihubungkan dengan kontrol fitur. CaraPandang melaporkan perusahaan diwajibkan memverifikasi usia pengguna, sedangkan ANTARA melaporkan larangan fitur tertentu bagi pengguna di bawah 18 tahun. Kedua hal itu menunjukkan bahwa penentuan usia berpengaruh pada pengalaman yang boleh diberikan oleh sistem.

Pekerjaan tim tidak berhenti pada penambahan kolom tanggal lahir. Mereka perlu memetakan fitur mana yang tersedia untuk kelompok usia tertentu, bagaimana sistem merespons topik sensitif, siapa yang meninjau laporan, serta tindakan apa yang diambil ketika ada dugaan pelanggaran. Keputusan tersebut perlu terdokumentasi agar produk, keamanan, operasional, dan tim penanganan pengguna bekerja dengan acuan yang sama.

Workflow dasar dapat dimulai dari pengguna membuka chatbot, sistem menjalankan pemeriksaan usia, lalu akses fitur disesuaikan dengan kategori pengguna. Jika pengguna mengirim percakapan yang memuat indikasi risiko keselamatan, sistem perlu berhenti dari pola percakapan biasa dan menerapkan jalur respons yang telah ditetapkan. Laporan pengguna kemudian masuk ke proses peninjauan manusia dan dicatat sebagai bahan evaluasi fitur.

Filter kata kunci saja tidak selalu cukup untuk menilai risiko. Percakapan dapat menjadi berbahaya melalui rangkaian respons, nada yang terlalu intim, atau desain yang terus mendorong pengguna kembali ke percakapan personal. Karena itu, pengujian perlu menggunakan skenario dialog lengkap, bukan hanya daftar kata yang dilarang.

Sebagai contoh hipotetis, tim QA dapat menguji tiga kondisi sebelum peluncuran: pengguna muda meminta chatbot berpura-pura sebagai pasangan, pengguna mengungkapkan keinginan mencelakai diri, dan pengguna mencoba memulai percakapan seksual. Tujuannya bukan mengukur seberapa panjang chatbot mampu berdialog, melainkan memeriksa apakah sistem menolak pola yang dilarang, memberi respons aman sesuai rancangan, dan meneruskan kasus yang membutuhkan penanganan manusia.

Dua UU berbeda yang ditandatangani Kathy Hochul

Laporan CaraPandang menyebut Kathy Hochul menandatangani dua undang-undang pada hari yang sama. UU pertama berkaitan dengan perlindungan anak dari fitur tertentu pada chatbot AI. UU kedua menyasar kamera pemantau bayi baru yang terhubung ke internet.

Menurut CaraPandang, kamera pemantau bayi baru yang terhubung ke internet diwajibkan memiliki perlindungan untuk mencegah akses visual atau penyadapan audio tanpa izin. Produk yang dijual di New York juga harus memuat label peringatan bahwa perangkat terhubung ke internet serta menyarankan pengguna memakai fitur keamanan yang tersedia.

Dua aturan tersebut berada dalam konteks perlindungan anak, tetapi objek pengaturannya berbeda. Aturan chatbot membahas perilaku dan fitur percakapan AI untuk pengguna di bawah umur. Aturan kamera pemantau bayi membahas keamanan perangkat internet di rumah, kamar bayi, dan ruang bermain. Mencampurkan keduanya dapat membuat pembaca keliru mengira seluruh ketentuannya berlaku untuk chatbot.

Langkah yang perlu dilakukan sebelum meluncurkan chatbot untuk publik

Tim yang mengoperasikan chatbot untuk pelanggan, siswa, komunitas, atau keluarga dapat memulai dari audit fitur. Daftarkan seluruh kemampuan chatbot, lalu tandai fitur yang memakai nada personal, menyimpan konteks percakapan, mengarahkan pengguna kembali ke chat, atau menangani topik sensitif. Audit ini membantu tim melihat fitur yang perlu dibatasi untuk kelompok pengguna tertentu.

Berikutnya, buat skenario uji untuk pengguna di bawah umur. Uji permintaan agar chatbot berpura-pura menjadi manusia, teman, atau pasangan. Uji juga percakapan seksual eksplisit dan pesan yang menunjukkan risiko mencelakai diri. Dokumentasikan respons sistem, keputusan tim, dan kondisi ketika manusia harus mengambil alih.

Terakhir, periksa apakah pengguna dapat melaporkan masalah dengan jelas. Menurut ANTARA, aturan ini menyediakan situs pengaduan publik untuk dugaan pelanggaran perusahaan chatbot. Platform dapat menjadikan prinsip akses pelaporan tersebut sebagai pertanyaan operasional: apakah pengguna mengetahui cara melapor, siapa penerima laporan, berapa lama laporan ditinjau, dan siapa yang bertanggung jawab atas tindak lanjutnya?

Mulailah dari satu workflow chatbot yang sudah aktif. Petakan usia penggunanya, fitur personal yang tersedia, topik berisiko, serta jalur eskalasi manusia. Hasil pemetaan itu dapat menjadi dasar pengujian sebelum tim menambah kemampuan AI atau memperluas akses pengguna.