Box Gandeng Nvidia Nemotron: Pencarian Agen AI Diproyeksikan 4 Kali Lebih Cepat
Box pamerkan Box Content Retrieval bertenaga Nvidia Nemotron, yang diharapkan memangkas pemakaian token hingga 90 persen dan mempercepat kueri agen AI.
Foto: TechCrunch (Dokumentasi editorial)
Poin penting
- Box Content Retrieval diproyeksikan memangkas token hingga 90 persen dan mempercepat respons empat kali lipat.
- Model embedding Nemotron memetakan makna konsep dokumen, bukan sekadar mencocokkan kata kunci teks mentah.
- Fitur dijadwalkan meluncur awal 2027 bagi pelanggan korporat paket Box Enterprise Advance.
Penyedia penyimpanan awan Box resmi memamerkan fitur baru bernama Box Content Retrieval dalam konferensi pengembang tahunannya. Fitur ini menanamkan sistem embedding Nvidia Nemotron langsung ke fondasi pengelolaan konten enterprise.
Langkah ini dirancang khusus untuk memfasilitasi agen AI, yaitu perangkat lunak otonom yang dapat mengeksekusi tugas tanpa campur tangan manusia, agar mampu mencari informasi jauh lebih efektif.
Wakil Presiden Generative AI Software Nvidia, Kari Briski, mengungkapkan kepada TechCrunch bahwa sistem ini diproyeksikan mampu menjawab kueri empat kali lebih cepat. Tingkat kesalahan diperkirakan berkurang hingga 20 persen, serta diharapkan menghemat pemakaian token hingga 90 persen.
Token sendiri merupakan unit teks terkecil yang diproses model kecerdasan buatan, yang biasanya menjadi penentu utama lonjakan biaya komputasi AI bagi perusahaan.
Optimalisasi Data Tanpa Membaca Ulang Seluruh Dokumen
CEO Box Aaron Levie menjelaskan bahwa agen AI tidak perlu lagi membaca keseluruhan dokumen satu per satu. Sistem akan langsung mengirimkan potongan paragraf paling relevan sesuai instruksi kerja pengguna.
"Langkah ini secara dramatis meningkatkan relevansi teknologi pencarian kami untuk agen AI," ujar Levie.
Fitur ini memanfaatkan proyek Nemotron Embed, model embedding terbuka yang mengubah teks menjadi representasi konsep matematis. Pendekatan ini memungkinkan pencarian berbasis konteks, bukan sekadar mencocokkan kesamaan kata kunci secara harfiah.
Dalam skenario praktis, kalangan profesional hukum dapat menemukan klausul kontrak atau yurisprudensi relevan kendati pilihan kata yang digunakan berbeda. Sistem ini dijadwalkan mulai digulirkan awal tahun depan bagi pelanggan paket Box Enterprise Advance dengan tetap menjaga kontrol izin akses dokumen internal.
Apa Artinya bagi Pelaku Usaha
Efisiensi operasional AI kini bergeser dari sekadar memilih model bahasa tercanggih ke strategi pengambilan data yang presisi. Proyeksi pemangkasan 90 persen token berpotensi menekan biaya tagihan komputasi awan secara signifikan bagi divisi legal, keuangan, dan operasional yang rutin mengolah ribuan dokumen.
Bagi para pemimpin bisnis di Indonesia, integrasi ini menegaskan pentingnya menata sistem manajemen dokumen digital sejak dini. Mengadopsi agen AI tanpa sistem penyortiran data kontekstual yang matang hanya akan memboroskan anggaran komputasi dan memicu kesalahan analisis bisnis.
Langkah mitigasi terbaik saat ini adalah mengaudit repositori data internal serta memastikan tata kelola hak akses karyawan sudah tertib. Keamanan data dan segmentasi dokumen yang rapi menjadi fondasi mutlak sebelum menghubungkan arsip penting perusahaan dengan agen AI otonom.
- TechCrunch: Box taps Nvidia’s Nemotron for new agent-first content retrieval system
Lihat hasil pemeriksaan (6 klaim)
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| Box memamerkan fitur baru bernama Box Content Retrieval yang mengintegrasikan sistem embedding Nvidia Nemotron di konferensi pengembangnya. | Didukung | “At its developer conference on Thursday, Box showed off a new feature that will build Nvidia’s Nemotron embedding system into the core of its product. Called Box Content Retrieval” TechCrunch melaporkan Box memperkenalkan fitur Box Content Retrieval bertenaga Nemotron pada konferensi pengembang. |
| Kari Briski dari Nvidia memproyeksikan kueri dijawab 4 kali lebih cepat, kesalahan berkurang 20%, dan pemakaian token hemat hingga 90%. | Didukung | “Nvidia’s VP of generative AI software, Kari Briski, told TechCrunch that she expects queries to be answered four times faster, with 20% fewer errors and 90% fewer tokens used.” TechCrunch mengutip estimasi kinerja dari Kari Briski. |
| Fitur ini dijadwalkan meluncur awal tahun depan (awal 2027) untuk pelanggan Box Enterprise Advance. | Didukung | “The system will be available to all of Box’s Enterprise Advance customers, rolling out early next year.” TechCrunch mencatat ketersediaan fitur ini awal tahun depan untuk pelanggan Enterprise Advance (artikel bertanggal November 2026). |
| CEO Box Aaron Levie menyatakan sistem dapat mengirimkan potongan dokumen yang relevan alih-alih agen membaca seluruh dokumen. | Didukung | “Instead of an agent having to kind of read through each document, we can send back chunks from the documents that are most relevant to the user’s query or whatever the task is that the agent is doing.” TechCrunch memuat pernyataan langsung CEO Box Aaron Levie. |
| Fitur ini mengimplementasikan proyek Nemotron Embed dari Nvidia yang menyediakan model embedding open-weight. | Didukung | “The feature is an implementation of Nvidia’s Nemotron Embed project, which offers open-weight embedding models to improve automated retrieval systems.” TechCrunch menjelaskan dasar teknologi fitur tersebut dari Nemotron Embed. |
| Embedding Nemotron memetakan konsep mendasar melampaui kata kunci sederhana sehingga dokumen relevan dapat ditemukan meski dengan pilihan kata berbeda, seperti contoh kasus profesional hukum. | Didukung | “Because Nemotron’s embeddings go beyond simple keywords to map underlying concepts, a search tool can surface related legal themes even when different wording or language is used.” TechCrunch menjelaskan kemampuan pemetaan konsep Nemotron serta contoh penggunaannya pada bidang hukum. |
Video AI terbaru
Local AI 301: Quantization
