Dieser Beitrag zu DLite ist definitiv erwähnenswert.
Ohne Cache für frühere Gespräche sagt das Modell direkt das nächste Token voraus. In Agentenschleifen spart das viel Zeit, die sonst fürs wiederholte Einlesen des Verlaufs draufgeht. Dass die Arbeit heute mit 19 Stimmen ganz oben steht, ist kein Zufall.
Die Verbindung zur Kryptobranche liegt auf der Hand.
Bei diesem Agentenprotokoll $FET machen das wiederholte Einlesen des Kontexts und die damit verbundenen Kosten mehr als die Hälfte der Inferenzzeit aus. Wird dieses verlaufsfreie Decoding für On-Chain-Agenten eingesetzt, laufen sie schneller und die Kosten halbieren sich – da gibt es großes Potenzial.
$NEAR setzt auf die Inferenzebene. Diese Arbeit ebnet Agentenprotokollen einen kostengünstigen Weg und ist langfristig positiv zu bewerten.
#代理协议推理 #免历史解码 #AI
Ohne Cache für frühere Gespräche sagt das Modell direkt das nächste Token voraus. In Agentenschleifen spart das viel Zeit, die sonst fürs wiederholte Einlesen des Verlaufs draufgeht. Dass die Arbeit heute mit 19 Stimmen ganz oben steht, ist kein Zufall.
Die Verbindung zur Kryptobranche liegt auf der Hand.
Bei diesem Agentenprotokoll $FET machen das wiederholte Einlesen des Kontexts und die damit verbundenen Kosten mehr als die Hälfte der Inferenzzeit aus. Wird dieses verlaufsfreie Decoding für On-Chain-Agenten eingesetzt, laufen sie schneller und die Kosten halbieren sich – da gibt es großes Potenzial.
$NEAR setzt auf die Inferenzebene. Diese Arbeit ebnet Agentenprotokollen einen kostengünstigen Weg und ist langfristig positiv zu bewerten.
#代理协议推理 #免历史解码 #AI