Yaxşı, uşaqlar, dünən mənim rekursiv AI-m
#AGENT -nin işləyərkən hər cavabı yaratmazdan hemen əvvəl çox kiçik, bezdirici bir fasilə verdiyini gördüm.
İlk əvvəl, modelin özü sadəcə yavaş olduğunu düşündüm.
Amma agentim mürəkkəb, çoxpilləli iş axınlarını icra etməyə başlayanda, bu millidəqiqələr yığılıb cəmlənməyə başladı.
Başa düşdüm ki, əsl performans darboğazı GPU deyil.....
AI modelinin hesablamasının sürəti....
Həər bir düşüncə addımını təsdiqləmək və hər birini ödəmək üçün tələb olunan daimi kriptoqrafik imza yoxlamalarıdır......
Mən bunu “İmza-dən-Düşünə nisbəti” adlandırıram.
Əgər AI, işləyə bildiyini sübut etmək üçün əməliyyatları imzalamağa onları həqiqətən düşünməyə sərf etdiyindən daha çox vaxt sərf edirsə, sistem boğulur....
Elə buna görə də
@OpenGradient Base üzərində Permit2 inteqrasiyası oyun dəyişdirəndir.
Token icazələrini qruplaşdırmaqla agentin yoxlama büdcəsini boşaldan əməliyyat spamının qarşısını alır.
Mən bu aşağı gecikmə quruluşunu özüm chat.opengradient.ai-də sınaqdan keçirdim....
və bu,
#centralized adlı tətbiq kimi hiss olunur—amma içəridə tam texnika ilə qorunan məxfilik var.....
Şəxsən mən developer iş axınlarımı işlətmək üçün kreditlər alıram.
Düşünürəm ki, biz onları təsdiqləyən riyaziyyatı optimallaşdırmaq əvəzinə, çoxdan sürətli çiplər almağa diqqətimizi həddindən artıq yönəldirik.
Sizcə, imza tıxanıqlığı on-chain AI üçün ən böyük maneədir?
#OPG $OPG #DeAI $TAC $GWEI