Biaya AI Coding Melonjak, Perusahaan Disarankan Ukur Hasil Nyata
Lonjakan pemakaian agen AI membuat biaya komputasi membengkak. Alih-alih membatasi kuota token secara kaku, perusahaan disarankan memantau biaya per kode yang tuntas dikerjakan.
Foto: MIT Technology Review (Dokumentasi editorial)
Poin penting
- Agen koding otonom menghabiskan token 10 hingga 50 kali lebih banyak dibandingkan percakapan AI standar.
- Pembatasan sepihak kuota AI dinilai merugikan karena menghambat penyelesaian kode yang bernilai nyata.
- HPE mencatat pendekatan hybrid dan model mandiri mampu memangkas biaya token sebesar 30 hingga 50 persen.
Lonjakan penggunaan agen koding berbasis kecerdasan buatan mulai memicu tekanan anggaran teknologi di berbagai perusahaan. Agen koding otonom, yakni perangkat lunak cerdas yang dapat merancang, menulis kode, hingga menguji sistem secara mandiri, bekerja berulang tanpa henti.
Siklus kerja berulang tersebut mengonsumsi 10 hingga 50 kali lipat token komputasi—satuan unit teks pemrosesan AI—dibandingkan perintah percakapan biasa. Menurut ulasan MIT Technology Review bersama Hewlett Packard Enterprise (HPE), lonjakan biaya ini kian nyata di tingkat industri global.
Laporan tersebut mencatat Uber telah menghabiskan seluruh anggaran AI tahun 2026 sejak April setelah memperluas penggunaan Claude Code. Selain itu, firma riset Gartner memproyeksikan biaya token AI koding akan melampaui rata-rata gaji pengembang perangkat lunak pada 2028.
Mengukur Hasil Nyata daripada Membatasi Kuota
Sebagian besar manajemen merespons lonjakan ini dengan membatasi kuota token atau memberlakukan persetujuan berjenjang sebelum agen AI dijalankan. Namun, ulasan HPE menilai pembatasan menyeluruh tersebut keliru karena justru dapat mematikan alur kerja produktif yang menghasilkan nilai bisnis tinggi.
Metrik biaya per token hanya mengukur konsumsi, bukan hasil. Meteran komputasi tidak bisa membedakan antara loop eror yang boros dan pengiriman piranti lunak berharga.
Sebagai alternatif, ulasan tersebut menyarankan perusahaan mengukur biaya per merged pull request, yakni total biaya AI dibagi jumlah perubahan kode yang lolos uji dan resmi digabungkan ke aplikasi utama. Cara ini menghubungkan pengeluaran komputasi langsung dengan hasil kerja riil yang selesai dikirimkan.
Penghematan pengeluaran juga dapat diraih melalui arsitektur komputasi hibrida. Dalam pengalaman internal HPE pada lebih dari 150 aplikasi, perutean tugas rutin ke model open-weight milik sendiri di fasilitas lokal diklaim mampu memangkas biaya token hingga 30 sampai 50 persen.
Apa Artinya bagi Pelaku Usaha
Bagi para direktur dan manajer teknologi di Indonesia, ledakan penggunaan agen AI menuntut pergeseran pola pikir manajemen. Alih-alih buru-buru memangkas akses yang berisiko memperlambat peluncuran produk, perusahaan perlu memetakan alokasi anggaran berdasarkan hasil kerja nyata tim rekayasa perangkat lunak.
Langkah antisipasi praktis dimulai dari mengidentifikasi pengembang berintensitas tinggi. Mengingat sebagian kecil pengembang aktif sering kali menghabiskan porsi terbesar kuota, evaluasi berkala terhadap biaya per kode yang berhasil dirilis dapat memisahkan antara pemborosan eror dan produktivitas bernilai tinggi.
Pelaku usaha disarankan menerapkan pintu gerbang kendali perutean (governed gateway). Model bahasa komersial premium dapat dibatasi untuk perencanaan rumit, sedangkan pekerjaan berulang dialihkan ke infrastruktur mandiri demi menjaga kerahasiaan aset kode sekaligus mengamankan arus kas operasional.
- MIT Technology Review: Stop counting tokens, start counting what ships
Lihat hasil pemeriksaan (7 klaim)
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| Satu tugas agen koding otonom dapat mengonsumsi 10 hingga 50 kali lipat token komputasi dibandingkan perintah percakapan AI biasa. | Didukung | “A single task can use 10 to 50 times more tokens than a basic chat prompt.” Dinyatakan dalam artikel MIT Technology Review / HPE. |
| Uber dilaporkan telah menghabiskan seluruh anggaran AI tahun 2026 pada April setelah memperluas penggunaan Claude Code. | Didukung | “Uber reportedly exhausted its entire 2026 AI budget by April after expanding its use of Claude Code.” Dinyatakan dalam artikel MIT Technology Review / HPE. |
| Gartner memprediksi biaya token AI koding akan melampaui rata-rata gaji pengembang perangkat lunak pada 2028. | Didukung | “Gartner predicts that AI coding token costs will surpass average developer salaries by 2028.” Dinyatakan dalam artikel MIT Technology Review / HPE. |
| Pembatasan menyeluruh penggunaan AI dapat menghambat alur kerja yang memberikan nilai bisnis. | Didukung | “blanket limits can restrict the workflows delivering value.” Dinyatakan dalam artikel MIT Technology Review / HPE. |
| Biaya per token mengukur konsumsi dan bukan hasil, serta meteran komputasi tidak membedakan pemborosan dari pengiriman perangkat lunak. | Didukung | “Cost per token measures consumption, not results.” Dinyatakan dalam artikel MIT Technology Review / HPE. |
| Metrik biaya per merged pull request dihitung dari total biaya pengembangan dibantu AI dibagi jumlah perubahan yang lolos tinjauan dan digabungkan. | Didukung | “total AI-assisted development cost divided by the number of changes that pass review and are merged.” Dinyatakan dalam artikel MIT Technology Review / HPE. |
| Di HPE, platform AI hibrida mengalihkan beban kerja rutin dari 150 lebih aplikasi internal ke model open-weight lokal sehingga memangkas biaya token 30 hingga 50 persen. | Didukung | “routes routine workloads from more than 150 internal applications to open-weight models running on premises, including on HPE Private Cloud AI. The result: token costs down 30 to 50%.” Dinyatakan dalam artikel MIT Technology Review / HPE. |
Video AI terbaru
Coinbase on OpenAI Private Intelligence
