Wow! Google Rilis Fitur AI yang Bisa Pangkas Biaya Token Hingga Signifikan
Tool Retrieval di Gemini API membuat agen AI hanya memuat skema alat yang dibutuhkan, menekan biaya token dan latensi.

Foto: Google AI Blog (Dokumentasi editorial)
Poin penting
- Tool Retrieval kini preview di Gemini Interactions API sejak 19 November 2026.
- Agen hanya memuat skema alat saat dibutuhkan, menekan input token dan latensi.
- Fitur ini tanpa biaya tambahan dan mendukung Gemini 3.6 hingga Gemini 4.
Google meluncurkan Tool Retrieval dalam mode preview di Gemini Interactions API pada 19 November 2026, seperti diumumkan dalam Google AI Blog. Langkah ini menjawab masalah biaya yang makin terasa ketika sebuah agen AI, perangkat lunak otonom yang menjalankan tugas lewat alat atau fungsi, terhubung ke puluhan hingga ratusan alat sekaligus.
Selama ini, setiap permintaan ke model harus mengirim seluruh skema parameter semua alat. Skema itu berupa deskripsi lengkap format data yang dibutuhkan model agar bisa memanggil fungsi dengan benar. Biaya inilah yang membengkak seiring jumlah alat bertambah.
Cara Kerja: Muat Skema Hanya Saat Dibutuhkan
Dengan Tool Retrieval, developer menambahkan tool_search pada permintaan dan mengatur defer_loading: true pada alat yang ditahan. Model tetap melihat nama dan deskripsi semua alat, sehingga tahu apa saja yang tersedia, tetapi skema detailnya tidak masuk ke konteks percakapan.
Ketika model membutuhkan alat tertentu, ia memintanya berdasarkan nama, API memuat skema lengkapnya, lalu model memanggil fungsi tersebut. Ketiga langkah berlangsung dalam satu panggilan API dan tercatat di interaction.steps, sehingga mudah diperiksa saat proses debug.
Google menyebut tidak ada indeks yang perlu dibangun atau dihosting, karena pencarian dijalankan di sisi server. Perubahan kode hanya menambah satu alat baru dan satu penanda pada alat yang ditahan. Alat yang paling sering dipakai bahkan bisa tetap dimuat di awal.
Biaya dan Model yang Didukung
Google menegaskan Tool Retrieval tidak dikenakan biaya terpisah. Token masuk dan keluar tetap tarif standar model yang dipanggil, dan setiap skema yang dimuat model ditagih sebagai input selama sisa percakapan.
Penghematan terjadi ketika skema yang tidak pernah dimuat melebihi yang dimuat, kondisi yang menurut Google umum terjadi pada pustaka alat besar. Google menyarankan pengembang mengukur sendiri terhadap lalu lintas aplikasi mereka.
Fitur ini kompatibel dengan Gemini 3.6 ke atas, termasuk seluruh model Gemini 4. Tool Retrieval juga mendukung server MCP jarak jauh, di mana seluruh alat yang diekspos server dimuat sesuai kebutuhan. Selain itu, tersedia mode client-side retrieval untuk developer yang punya registry atau filter izin sendiri, meski menambah satu putaran jaringan per pencarian.
Apa Artinya bagi Pelaku Usaha
Pemilik bisnis yang sudah memakai agen AI untuk layanan pelanggan, akuntansi, atau otomasi operasional adalah pihak paling terdampak. Semakin banyak alat yang terhubung, semakin besar tagihan token bulanan, dan fitur ini langsung menekan pos biaya tersebut tanpa perlu mengganti model.
Langkah pertama yang praktis adalah memeriksa berapa banyak alat yang kini dikirim di setiap permintaan. Jika angkanya lebih dari sepuluh, peluang penghematan token lewat Tool Retrieval cukup besar untuk diuji coba pada satu skenario dulu.
Sebelum mengadopsi, ukur penghematan aktual dengan lalu lintas nyata perusahaan Anda, sesuai saran Google. Mulailah dengan menahan alat yang jarang dipakai dan mempertahankan alat inti tetap dimuat, lalu bandingkan biaya serta akurasi pemilihan alat selama beberapa minggu.
Terakhir, pastikan tim teknis memanfaatkan fitur interaction.steps untuk audit. Ketelitian pemilihan alat menentukan kualitas keputusan otomatis, dan rekaman langkah tersebut memudahkan evaluasi berkala tanpa perlu investasi infrastruktur tambahan.
✓ Lolos pemeriksaan redaksi AI. (Klik untuk lihat hasil pemeriksaan fakta)
Artikel ini ditulis AI, 3 klaimnya dicocokkan dengan sumber, dan diuji keterbacaannya sebelum terbit. Menemukan kekeliruan? Laporkan ke redaksi.
- Google AI Blog: Introducing Tool Retrieval in the Gemini API
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| Tool Retrieval kini preview di Gemini Interactions API sejak 19 November 2026. | Didukung | “Nov 19, 2026 Tool Retrieval is now in preview in the Gemini Interactions API.” Google AI Blog |
| Agen hanya memuat skema alat saat dibutuhkan, menekan input token dan latensi. | Didukung | “By loading parameter schemas only when needed, you reduce latency and input token costs for complex tasks.” Google AI Blog |
| Fitur ini tanpa biaya tambahan dan mendukung Gemini 3.6 hingga Gemini 4. | Bertentangan | “Input and output tokens are billed at the standard rates for the model you call.” Google AI Blog |
Video AI terbaru
How to claim your business in ChatGPT with Shopify


