@OpenLedger tomonidan yaratilgan OpenLoRA’ga qancha uzoq qarasam, uni AI uchun navbatdagi optimallashtirish deb shuncha kam qabul qilaman. Menimcha, bu ko‘proq butun OpenLedger iqtisodiyoti umuman keng miqyosda ishlay oladimi-yo‘qmi, shuni tekshirishga o‘xshaydi.
Qizig‘i shundaki, bunday xulosaga mahsulotning texnik tavsifi orqali emas, balki oddiy bir savol orqali keldim: OpenLoRA’ni arxitekturadan olib tashlasak, nima bo‘ladi?
Avval texnologiyaning o‘zi haqida qisqacha. OpenLoRA ko‘p sonli fine-tuned modellarni har biri uchun alohida GPU ajratmasdan samarali ishga tushirish g‘oyasi asosida qurilgan. Asosiy model doim yuklangan holatda qoladi, LoRA adapterlari esa faqat so‘rov kelgan paytda ulanadi. Jamoa bitta GPU’da minglab adapterlarga xizmat ko‘rsatish va inferens xarajatlarini sezilarli darajada kamaytirish mumkinligini aytmoqda. 4-bit quantization, dynamic loading va flash attention kabi mexanizmlar ochiq bayon qilingan. Ammo minglab modellar va xarajatlarni 90% gacha kamaytirish haqidagi raqamlar hozircha ichki sinovlar natijasi bo‘lib qolmoqda — men mustaqil o‘lchovlarni topmadim.
Endi esa OpenLoRA nega yo‘qligi haqidagi savolga qaytaylik.
@OpenLedger ning asosida Proof of Attribution yotadi. G‘oya oddiy: tizim muayyan model va uning natijasiga qaysi ma’lumotlar ta’sir qilganini bilishi kerak. Ammo tarmoq o‘nlab emas, minglab ixtisoslashgan — yuridik, moliyaviy, tibbiy, tadqiqotga oid — modellarni qo‘llab-quvvatlamoqchi bo‘lsa, ularni joylashtirish muammosi yuzaga keladi.
Birinchi variant ravshan: har bir GPU’da bittadan model. Ammo shunda iqtisodiyot juda tez Web3’ga emas, hisoblash uchun ulkan to‘lovlar olinadigan an’anaviy bulutli biznesga o‘xshab qoladi.
Ikkinchi variant — hammasini bitta katta modelga birlashtirib, uning xatti-harakatini promptlar orqali boshqarish. Bu arzonroq, ammo bunda atributsiya aniqligini yo‘qotadi. Natijaga aynan kim hissa qo‘shganini va mukofot kimga tegishli ekanini tushunish qiyinlashadi.
Aslida, OpenLoRA uchinchi yo‘lni topishga urinmoqda: GPU’lar sonini ko‘paytirmasdan, modellarni alohida saqlab qolish. Agar bu yondashuv aytilganidek ishlasa, OpenLedger model, ma’lumotlar va hissa qo‘shuvchilar o‘rtasidagi bog‘liqlikni yo‘qotmasdan o‘z iqtisodiyotini kengaytirish imkoniga ega bo‘ladi.
Aynan shuning uchun men OpenLoRA’ni inferensni tezlashtirish vositasi deb hisoblamayman. Bozorda bunday yechimlar yetarli. @OpenLedger uchun esa u boshqa vazifani bajaradi — modelning bajarilishi bilan atributsiya mexanizmi o‘rtasidagi bog‘liqlikni saqlab qoladi.
Shunga qaramay, bu yerda asosiy savol ochiq qolmoqda: bozorga bu xususiyat umuman qanchalik kerak?
Agar kompaniyalar va dasturchilar ma’lumotlarning kelib chiqishi shaffof bo‘lishini va daromad adolatli taqsimlanishini talab qila boshlasa, OpenLoRA kelajakdagi AI infratuzilmasining muhim qismiga aylanishi mumkin. Bozor esa faqat tezlik va arzonlikni tanlashda davom etsa, hatto eng nafis arxitektura ham tor doiradagi yechim bo‘lib qolish xavfidan qocholmaydi.
Shuning uchun men uchun OpenLoRA GPU haqida emas. Bu bir necha yildan so‘ng atributsiyaning qiymati model sifatining o‘zidan kam bo‘lmaydi, degan taxmin.
Siz bunday texnologiyalarni qanday baholaysiz? Mustaqil benchmarklar va dalillarni kutasizmi yoki yechim mantig‘i ishonarli ko‘rinsa, loyihaga ishonch bildirishga tayyormisiz?
