Biaya inferensi agen AI dapat lebih dari lima kali lipat hingga tahun 2028: meskipun harga token sedang turun, model sedang digunakan untuk tugas yang semakin kompleks, yang membutuhkan pemrosesan lebih banyak dan dapat membuat biaya total setiap alur kerja melonjak. Untuk menjaga laba atas investasi, perusahaan perlu mengoptimalkan orkestrasi dan mengarahkan setiap tugas ke model yang paling ekonomis yang mampu menjalankannya. Informasi ini berasal dari situs Gartner.
