Peneliti Google DeepMind Mundur Memprotes Proyek AI Militer

Apa yang dilaporkan tentang pengunduran diri peneliti Google DeepMind

Sejumlah peneliti dan research engineer senior Google DeepMind dilaporkan mengundurkan diri karena keberatan terhadap keterlibatan teknologi Google dalam proyek militer Amerika Serikat dan Israel. Laporan detikInet pada 25 Oktober 2026 menyebut protes itu berkaitan dengan kekhawatiran etika serta terbatasnya kendali perusahaan setelah sistem AI dipakai di lingkungan militer.

Sofia Liguori, Research Engineer Google DeepMind berbasis di London, disebut dalam laporan detikInet sebagai salah satu staf yang memilih mundur. Menurut laporan tersebut, ia menyampaikan kepada BBC bahwa arah penggunaan AI untuk operasi militer telah menggerus kepercayaannya terhadap komitmen etika perusahaan. Andreas Kirsch, peneliti AI yang juga dilaporkan keluar pada bulan itu, mempertanyakan seberapa jauh Google dapat melihat, mengendalikan, atau menolak cara teknologi tersebut diterapkan oleh Departemen Pertahanan Amerika Serikat.

Informasi ini perlu dibaca sebagai laporan media, bukan pengumuman langsung Google DeepMind dalam bahan yang tersedia. Demokratis.co.id dan Cirebon Times, yang sama-sama terbit 25 Oktober 2026, mengulang pokok laporan detikInet: keberatan para mantan staf berpusat pada penggunaan akhir teknologi dan keterbatasan pengawasan ketika AI masuk ke operasi militer.

Mengapa persoalannya bukan sekadar AI dipakai militer

Persoalan utama dalam protes proyek AI militer Google DeepMind adalah jarak antara pengembang teknologi dan keputusan di lapangan. Sistem dapat dibuat, diuji, lalu diserahkan kepada organisasi lain. Setelah itu, pembuat teknologi mungkin tidak lagi punya akses memadai untuk mengetahui data apa yang dimasukkan, rekomendasi apa yang dihasilkan, atau tindakan apa yang diambil berdasarkan keluaran sistem.

DetikInet melaporkan bahwa Google menandatangani kesepakatan dengan militer AS pada awal 2026. Laporan itu juga menyebut teknologi dari beberapa perusahaan, termasuk Google, diintegrasikan ke ekosistem militer yang mencakup platform intelijen Pentagon bernama Project Maven buatan Palantir. Bahan sumber tidak merinci fungsi teknologi Google dalam setiap penggunaan operasional. Karena itu, tidak tepat menyimpulkan bahwa satu model atau produk tertentu menjalankan keputusan militer tertentu.

Kekhawatiran ini berbeda dari pertanyaan sederhana apakah AI boleh digunakan atau tidak. AI dapat dipakai untuk mengelompokkan dokumen, menerjemahkan informasi, merangkum laporan, atau memberi sinyal awal kepada analis. Risiko bertambah ketika hasil analisis dipakai untuk memprioritaskan tindakan berisiko tinggi, sementara operator tidak dapat memeriksa dasar rekomendasinya atau tidak punya wewenang untuk menghentikan proses.

Sebagai ilustrasi hipotetis, sebuah sistem menerima banyak laporan lapangan dan memberi label prioritas kepada analis. Batas yang lebih aman adalah AI hanya menyusun urutan tinjauan, menampilkan sumber informasi, lalu menyerahkan keputusan kepada petugas berwenang. Risikonya berubah bila label prioritas tersebut otomatis diteruskan sebagai instruksi tindakan tanpa pemeriksaan manusia.

Human oversight harus berupa kontrol yang bisa dijalankan

Menurut detikInet, kontrak Google memuat pembatasan bahwa AI tidak boleh digunakan untuk senjata otonom tanpa pengawasan manusia. Klausul itu penting, tetapi istilah human oversight tidak cukup bila hanya berarti ada orang yang melihat hasil di layar. Pengawasan berarti manusia mengetahui apa yang direkomendasikan sistem, memiliki waktu dan informasi untuk menilai, serta berhak menolak atau menghentikan tindakan.

Kontrol yang dapat diuji setidaknya mencakup empat hal. Pertama, batas fungsi: sistem boleh menganalisis atau memberi rekomendasi, tetapi tidak menjalankan tindakan tertentu sendiri. Kedua, jejak audit: input, keluaran, perubahan data, dan keputusan operator tercatat. Ketiga, akses: hanya pihak dengan otorisasi yang dapat memakai data atau memberi persetujuan. Keempat, penghentian: ada prosedur jelas saat hasil sistem janggal, data bermasalah, atau risiko meningkat.

Contoh hipotetis lain dapat dilihat pada sistem penilaian laporan keamanan. AI dapat menandai laporan yang memerlukan perhatian cepat, tetapi petugas manusia perlu memeriksa sumber, konteks, dan tingkat keyakinan sebelum meneruskan hasilnya. Bila sistem menerima data tidak lengkap atau saling bertentangan, alur seharusnya dialihkan ke peninjauan manual, bukan tetap berjalan otomatis.

Kecepatan juga menjadi masalah. Cirebon Times menyoroti tantangan pengawasan manusia ketika AI beroperasi cepat dalam konteks militer. Artinya, organisasi tidak cukup menunjuk seorang peninjau. Mereka perlu merancang tempo kerja yang memberi ruang untuk koreksi, terutama ketika rekomendasi dapat memengaruhi keselamatan, hak, atau keputusan berdampak besar.

Bedakan otomasi, AI, dan AI agent saat menilai risikonya

Otomasi menjalankan langkah berdasarkan pemicu dan aturan yang ditetapkan. Contohnya, formulir masuk memicu pencatatan data ke sistem lain. AI membantu memahami, menghasilkan, atau menganalisis informasi, misalnya mengelompokkan isi formulir berdasarkan topik. AI agent memiliki cakupan lebih luas karena dapat memakai konteks dan alat untuk menjalankan beberapa langkah menuju tujuan tertentu.

Perbedaan itu menentukan kontrol yang dibutuhkan. Otomasi sederhana dapat diuji lewat aturan dan kondisi gagal. AI memerlukan pemeriksaan kualitas data serta evaluasi keluaran. AI agent membutuhkan batas alat yang boleh dipakai, tindakan yang dilarang, pembatasan akses, serta titik persetujuan manusia sebelum ia melakukan tindakan eksternal.

Sebagai ilustrasi hipotetis untuk bisnis, workflow lead masuk dapat berjalan dalam tiga tingkat. Otomasi memindahkan data formulir ke CRM. AI automation membaca kebutuhan calon pelanggan lalu memberi kategori. AI agent dapat membaca kebutuhan, mencari informasi produk yang relevan, membuat draf tindak lanjut, dan menyiapkannya untuk ditinjau sales. Draf boleh dibuat otomatis; pengiriman pesan atau perubahan status penting di CRM sebaiknya tetap memiliki aturan persetujuan yang jelas.

Pelajaran tata kelola bagi organisasi yang memakai AI

Pelajaran praktisnya: organisasi perlu menetapkan batas penggunaan, pemilik keputusan, jejak audit, dan prosedur penghentian sebelum AI dipakai dalam proses berisiko tinggi. Tanpa kontrol atas penggunaan akhir, komitmen etika sulit dibuktikan ketika teknologi diterapkan pihak lain.

Laporan tentang pengunduran diri peneliti juga menempatkan reputasi Google di bawah tekanan. Bagi karyawan dan publik, protes internal dapat memunculkan pertanyaan apakah kebijakan penggunaan AI sejalan dengan penerapannya di proyek berisiko tinggi.

Project Nimbus turut menjadi sorotan dalam konteks tersebut. Bahan bersumber menyebut seorang mantan insinyur Google DeepMind keturunan Palestina mengajukan gugatan ke tribunal Inggris setelah dipecat terkait protes terhadap Proyek Nimbus Israel. Peristiwa ini terpisah dari laporan pengunduran diri staf yang dibahas detikInet, tetapi memperlihatkan bahwa keterlibatan Google dalam proyek militer atau pemerintahan dapat memicu tekanan reputasi dari arah berbeda: penggunaan akhir teknologi, konsistensi komitmen etika, serta penanganan keberatan internal.

Kekhawatiran Kirsch yang dikutip detikInet berfokus pada keterbatasan visibilitas Google terhadap penerapan AI oleh Pentagon. Bagi organisasi lain, pertanyaan serupa berlaku ketika vendor, mitra, atau unit internal memakai sistem di luar tim pengembang. Reputasi organisasi ikut dipertaruhkan bila pihak luar melihat adanya jarak antara janji tata kelola dan kemampuan nyata untuk mengawasi penggunaan akhir.

Sebelum memperluas AI ke workflow penting, lakukan tinjauan pada satu proses nyata. Petakan data yang masuk, keluaran yang dibuat AI, pihak yang menerima keluaran, tindakan yang dapat dipicu, dan dampak jika rekomendasi salah. Tetapkan pula satu pemilik proses yang bertanggung jawab meninjau insiden, memperbarui aturan, dan menghentikan sistem bila diperlukan.

Checklist praktisnya sederhana. Pisahkan data sensitif dari data yang tidak diperlukan. Batasi izin sistem sesuai tugasnya. Tentukan tindakan yang selalu butuh persetujuan manusia. Simpan catatan keputusan dan alasan perubahan. Uji skenario gagal, seperti data kosong, instruksi ambigu, atau keluaran yang tidak sesuai konteks. Langkah ini tidak menghapus risiko, tetapi membuat risiko terlihat sebelum sistem dipakai lebih luas.

Untuk memahami fondasi kemampuan agen, pembaca dapat melihat pembahasan tentang Google DeepMind Uji Empat Agen AI Menamatkan Minecraft dalam Eksperimen. Artikel itu membahas eksperimen agen AI, sedangkan laporan pengunduran diri ini mengarahkan perhatian pada pertanyaan lain: siapa yang menetapkan batas penggunaan, siapa yang dapat menghentikan sistem, dan siapa yang menanggung tanggung jawab ketika keluaran AI keliru.

Pilih satu workflow AI yang sudah berjalan minggu ini. Tulis empat kolom: data masuk, keputusan AI, tindakan otomatis, dan persetujuan manusia. Jika tim tidak bisa menjelaskan salah satu kolom itu dalam satu halaman, tahan perluasan workflow sampai kontrol, pemilik keputusan, dan jalur penghentiannya jelas.