Ötən gün 16 milyard Token xərcləndi, hamısı GPT-5.6 Sol-dan.
API Input qiyməti ilə hesablasaq (Token başına $5 / milyon) = $8,000
Kəşb yaddaşına tam uyğun gələn hər şey də $800
Gün ərzində—bir tərtibatçı.
Bu arada biri belə deyir: yerli inferensiya (local reasoning) mühiti qurmaq fikrinə düşəndə, açıq mənbə modellərin getdikcə daha böyük parametrlərə malik olduğunu görüb fikri daşımır. Bir neçə on min dollara (neçə min dollara) zəif effekt üçün xərc çəkməkdənsə, aylıq icarəni düz-dürüst ödəmək daha yaxşıdır.
Bu iki məsələ eyni faktı deyir: AI inferensiyasının iqtisadiyyatı parçalanır.
Ya ən bahalı frontier model üçün aylıq icarə ödəyirsən, ən yaxşı effekti alırsan
Ya da bir neçə on min dollara yerli inferensiya qurursan—effekt də azalır, üstəlik baxımını özün aparmalısan
Aradakı “orta zona” yoxa çıxır
İnvestorlar üçün: inferensiya xərclərinin aşağı həddi ən bahalı modelin qiyməti ilə, yuxarı həddi isə istifadəçinin ödəniş istəyi ilə müəyyən olunur. Sadəcə frontier model çağırışlarının payı azalırsa, inferensiya xərcləri üzrə təzyiq yüngülləşir—amma səhv başa düşmə: ümumi istehlak miqdarı eksponensial şəkildə artır.
#AI #GPT #推理成本