Nvidia Luncurkan Tiga Model AI Terbuka Nemotron 3.5 untuk Agen Cerdas

Apa yang terjadi pada peluncuran Nemotron 3.5

Nvidia luncurkan tiga model AI terbuka Nemotron 3.5: Super VL, Bolt 74B-A9B 24GB, serta Bolt E4B 4GB. NVIDIA menempatkan ketiganya untuk kebutuhan agen AI pada infrastruktur berbeda, dari server perusahaan hingga perangkat lokal dan edge.

Nemotron 3.5 bukan agen AI siap pakai. Keluarga model ini dapat menjadi komponen penalaran dalam sistem agen. Pengembang tetap perlu menetapkan instruksi, sumber data, alat yang boleh dipanggil, aturan akses, serta persetujuan manusia sebelum digunakan untuk pekerjaan nyata.

NVIDIA menyebut Nemotron sebagai keluarga model terbuka dan dapat disesuaikan untuk infrastruktur sendiri. Keterbukaan memberi organisasi ruang mengatur implementasi, bukan menghapus risiko. Tim tetap perlu meninjau lisensi, penyimpanan data, kontrol akses, serta log aktivitas.

Perbedaan tiga model Nemotron 3.5

Nemotron 3.5 Super VL adalah model multimodal terbuka untuk tugas agen yang membutuhkan pemahaman instruksi, penggunaan alat, informasi visual, serta workflow bisnis bertahap. NVIDIA menyatakan model ini dibangun bersama Nemotron Coalition. Kemampuannya mencakup pemrosesan teks, gambar, video, serta lingkungan alat interaktif.

Penggunaan Super VL tidak terbatas pada tanya jawab dokumen. Bayangkan tim kepatuhan menerima formulir, PDF, serta bukti gambar dari pelanggan. Sistem dapat mengekstrak data, menandai informasi yang belum lengkap, lalu membuat ringkasan untuk petugas. Petugas tetap memutuskan kelayakan dokumen. Model membantu membaca dan menyiapkan informasi, bukan mengambil alih otoritas keputusan.

Bolt 74B-A9B 24GB dirancang untuk workload agen lokal. NVIDIA mengoptimalkannya agar menyeimbangkan kecerdasan dan kecepatan per kapasitas memori. Model ini dapat dipakai bersama agent harness lokal untuk riset web, penulisan, serta debugging kode. Pemrosesan lokal relevan bagi organisasi yang ingin menjaga aliran kerja tetap berada di infrastruktur mereka.

Bolt E4B 4GB ditujukan bagi agen percakapan cepat dengan jejak memori lebih kecil. Ketiga model tersebut mencakup kebutuhan deployment agen, dari server perusahaan hingga perangkat edge dan perangkat lokal. Pemilihan model perlu mengikuti jenis pekerjaan, bukan sekadar mencari model dengan skala terbesar.

Mengapa pemilihan model harus dimulai dari workflow

Agen AI tidak selalu membutuhkan model paling besar untuk seluruh proses. Workflow yang membaca dokumen, mencari informasi, memanggil alat, lalu menyiapkan keputusan awal memiliki kebutuhan berbeda dari asisten percakapan lokal. Pemilihan hanya berdasarkan skala model berisiko membuat biaya, latensi, atau kebutuhan perangkat tidak selaras dengan pekerjaan.

NVIDIA menempatkan Super VL untuk tugas multimodal serta workflow bertahap. Bolt 74B-A9B 24GB ditujukan bagi workload agen lokal. Bolt E4B 4GB menargetkan percakapan cepat dengan kebutuhan memori lebih ringan. Pembagian ini dapat menjadi titik awal: petakan input, tindakan, lokasi data, serta risiko proses sebelum membandingkan model.

Sebagai contoh hipotetis, tim penjualan ingin merapikan lead dari formulir web. Alurnya: formulir masuk, AI membaca kebutuhan calon pelanggan, sistem mengelompokkan lead, CRM menerima data, staf sales meninjau hasil sebelum tindak lanjut. Jika input hanya teks singkat serta klasifikasi sederhana, model multimodal tidak harus dipakai pada setiap tahap. Jika lead sering menyertakan proposal PDF, tabel kebutuhan, atau gambar produk, kemampuan multimodal menjadi lebih relevan.

Pendekatan ini mencegah kesalahan umum: satu model diberi seluruh tugas, akses, serta wewenang sekaligus. Sistem lebih aman bila pekerjaan dibagi. Satu tahap membaca dokumen. Tahap lain memvalidasi format. CRM menyimpan data setelah aturan terpenuhi. Pengiriman email atau perubahan data pelanggan menunggu persetujuan manusia.

Kapan Super VL dan Bolt layak dievaluasi

Super VL layak dievaluasi bila proses memerlukan kombinasi teks serta visual. NVIDIA menyebut kemampuannya meliputi pemahaman visual, penggunaan alat, workflow bisnis multilangkah, serta kontrol tingkat penalaran. Konteks ini sesuai untuk proof of concept ekstraksi informasi dari PDF, pembacaan tabel, atau peninjauan dokumen sebelum staf membuat keputusan.

Uji memakai satu jenis dokumen terlebih dahulu. Tetapkan field yang perlu diekstrak, lalu siapkan contoh dengan halaman buram, tabel tidak rapi, atau informasi hilang. Periksa apakah model menghasilkan data benar, mengakui informasi yang tidak tersedia, serta mengarahkan kasus ambigu kepada manusia.

Bolt 74B-A9B 24GB lebih relevan bila pemrosesan lokal menjadi pertimbangan. Namun, menjalankan model di perangkat sendiri bukan jaminan data otomatis aman. Tim tetap perlu mengatur autentikasi pengguna, izin akses folder atau database, retensi log, pembaruan perangkat, serta akses terhadap hasil percakapan.

Bolt E4B 4GB dapat dipertimbangkan untuk interaksi cepat yang tidak membutuhkan analisis dokumen rumit pada setiap giliran. Contoh hipotetis: asisten internal untuk menjawab pertanyaan prosedur dari basis pengetahuan yang telah disetujui. Sistem perlu menampilkan sumber jawaban, menolak permintaan di luar ruang lingkup, serta mengeskalasi pertanyaan saat informasi tidak tersedia.

Cara menguji model sebelum diterapkan

Mulai dari satu workflow sempit, bukan otomasi penuh. Tetapkan tujuan yang dapat diperiksa. Misalnya, sistem hanya mengekstrak field dari dokumen masuk dan membuat draf ringkasan. Jangan berikan akses tulis ke CRM, email, atau penyimpanan dokumen pada tahap awal.

Gunakan data uji tersaring dengan variasi kasus normal serta gagal. Catat keluaran model, kesalahan ekstraksi, waktu respons, serta instruksi yang memicu jawaban tidak sesuai. Sertakan kasus dengan informasi tidak cukup. Agen yang menyatakan ketidakpastian lebih berguna daripada agen yang menghasilkan jawaban meyakinkan tetapi keliru.

Setelah hasil memadai, pasang pagar pengaman sebelum akses diperluas. Pembuatan draf atau pemberian label dapat diotomatisasi dengan aturan jelas. Perubahan data pelanggan, pesan eksternal, serta keputusan atas dokumen sensitif sebaiknya memerlukan persetujuan manusia. Tetapkan pemilik proses untuk meninjau log, menangani kesalahan, serta menghentikan workflow bila diperlukan.

NVIDIA juga memiliki Nemotron 3.5 Lightning untuk workload berthroughput tinggi. Ini menunjukkan sistem agen dapat memakai model berbeda sesuai tahap kerja. Model penalaran dapat menangani analisis sulit, sedangkan model lain menjalankan tugas berulang. Pembagian peran sebaiknya dibuat setelah bottleneck proses dipetakan.

Pilih proses internal yang masih manual. Petakan input, keputusan, tindakan, serta hasilnya. Jalankan uji terbatas tanpa akses tindakan eksternal. Bandingkan Super VL atau Bolt berdasarkan jenis input, lokasi pemrosesan, kebutuhan memori, serta hasil pada data kerja. Perluas integrasi hanya bila manfaat terbukti dan kontrol manusia tetap berjalan.