O‘tgan yili o‘zim blokcheyn manzillarini tasniflash uchun kichik modelni fine-tune qilmoqchi bo‘ldim. Bulut platformadan A100 ijaraga oldim. Bir oylik to‘lov kelib qoldi — batamom hayron bo‘lib qoldim. Ustiga saqlash va trafik xarajatlarini qo‘shsa, yangi smartfon sotib olishga yetadi. Eng ayanchlisi — u kartaning katta qismi deyarli bo‘sh turardi. Men faqat kechqurun bir necha marta trening yugurtirardim, kunduzlari esa kartradan foydalana olmadim, baribir pulni to‘lash kerak bo‘lardi. Bu xuddi siz yuguradigan “mashina”ni ijaraga olgansiz-u, har kuni faqat yarim soat haydab, qolgan vaqtda garajda turib, to‘xtash joyi uchun to‘lov qilgandek gap.
Keyin texnik hujjatlarni ko‘rib, OpenLoRA bo‘limiga duch keldim. Shunda oldingidek qanchalik nodon ekanimni angladim. U ko‘p ijarachili GPU arxitekturasidan foydalanadi: o‘nlab LoRA modellari bitta asosiy (backbone) modelni baham ko‘radi. Siz trening qilishingiz kerak bo‘lganda tizim moslashtiruvchi adapteringiz (adapter) og‘irliklarini dinamik yuklaydi, trening tugagach esa uni darhol bo‘shatadi. Ya’ni siz butun kartani band qilib qo‘yishingiz shart emas. Bu shuni anglatadiki, endi sizga butun “mashina”ni ijaraga olish shart emas — balki har safar yo‘lga chiqqan masofaga qarab to‘laysiz. Hisob-kitob qilinsa, xarajatlar darhol ancha kamayadi.
Men buni tepadagi joyga kichik modelni joylashga harakat qildim: ma’lumotni yuklashdan tortib, mikroyanoqqa (fine-tuning) ishga tushirishgacha—haydovchi (driver) o‘rnatish, muhit (environment) sozlash, CUDA versiyasini topib moslashtirishning o‘zi bilan qiyin bo‘lgan hamma ishlar bir joyga jamlangan edi. Trening ikki soatdan ham kamroq vaqt davom etdi. Umumiy xarajat esa avval bitta soatga ijaraga olish uchun ketadigan puldan ham kam bo‘ldi. O‘sha paytning o‘zida bitta fikrim bor edi: bu narsa ikki yil oldin chiqqanida edi, men ancha katta summani tejagan bo‘lardim.
Birov “bu shunchaki bulut xizmati-ku, nimasi bilan maqtanyapsan?” deyishi mumkin. Do‘stim, borib an’anaviy bulut platformalaridagi AI xizmatlariga qarang: narx baribir arzon emas. Ularning ko‘pi LoRA kabi yengil mikroyanoqqa (lightweight fine-tuning) mos kelmaydi. Hatto parametrlarning bir qisminigina o‘zgartirsangiz ham, baribir to‘liq instansiya ochib berish kerak bo‘ladi. @Openledger O‘sha OpenLoRA aynan LoRA uchun optimallashtirilgan: uning SGMV yadrosi matritsa hisob-kitoblari samaradorligini maksimal darajaga olib chiqadi. Xuddi o‘sha trening sikllarida u kamroq VRAM ishlatadi, vaqt ham qisqaradi—shuning uchun hisob-kitob ham tabiiy ravishda kamayadi.
Men nafaqat pul tejasam, yana bitta yaxshi tomoni borligini ham bildim. Ilgari men GPU’ni o‘zimga olib qo‘yganda, bir martada ko‘proq eksperimentni yugurtirib yuborishni xohlardim—hisoblash resursini isrof qilib qo‘yishdan qo‘rqardim. Natijada ko‘pincha juda ko‘p keraksiz parametrlar chiqib qolardi. Endi esa kerak bo‘lgandek to‘layman: psixologiya o‘zgardi. Har safar faqat kichik o‘zgarish bilan bitta tajribani qilaman; natija yomon bo‘lsa, darrov to‘xtataman. Aksincha, iteratsiya tezroq bo‘lmoqda. Bu ham kutilmagan ijobiy natija deyish mumkin.
Albatta, kamchiliklari ham yo‘q emas. Hozir qo‘llab-quvvatlanadigan tayanch (bazaviy) model turlari yetarlicha ko‘p emas. Menda bir loyiha bor, unda unchalik ommaviy bo‘lmagan model ishlatmoqchi edim, topa olmadim—o‘zim talab qo‘yishim, rasmiy moslashtirishni kutishim kerak bo‘ldi. Bundan tashqari, eng yuqori paytda rejalashtirish ba’zan bir necha daqiqa navbatga qo‘yadi. Lekin narx farqi katta bo‘lgani uchun bularning hammasiga ko‘nikdim.
Hozir aksariyat mablag‘imni Bitcoin va Ethereum’da o‘zgartirmay ushlab turaman, lekin kundalik model tajribalari uchun hammasini OpenLedger’ga o‘tkazdim. Tejalgan pulni yana $OPEN ichki xaridlarimga sarflayman. Tajriba baribir pul talab qiladi-ku—mablag‘larim bor platformadagi ishlar uchun sarflaganim ma’qul. Do‘stlar, eslab qoling: model qilay desangiz, pul bilan urishib qolmang. Kerak bo‘lgandek to‘lang, bo‘lib-bo‘lib oylik paket olib, keraksizga pul yo‘qmang. Shu detallarni biroz “tig‘izroq” boshqarsangiz, bir yillik foyda sezilarli oshadi. #OpenLedger