Internet Computer

大家好！
我们刚刚发表了一篇研究论文，衡量了 ICP 容器内 LLM 推理的实际控制因素，其中前向传递完全在共识机制下运行，而不是通过链下工作者、预言机或证明系统。
论文：基于指令预算的链上 LLM 推理：指令预算成本模型、三元下限证据和会话成本
作者：Julien Aerni（Meotis Sàrl）、Siméon Fluck（Kaizen Corp SA）、Dustin Becker（ORIGYN 基金会）
论文及成果（MIT 代码，CC BY 4.0 数据）：
https://doi.org/10.5281/zenodo.20607598
复现代码库：
https://github.com/Simlowker/instruction-bounded-inference-artifact
核心思想
在 ICP 中，解码吞吐量不像在 GPU 上那样受带宽限制，而是受限于每次更新调用 40B 的确定性指令预算，这使得推理问题转化为一个具有简单一阶定律的预算计算问题：
tok/call ≈ B / (α_eff × 2P)
其中 α_eff 是一个有效成本系数，它是软件栈的属性，而不是硬件的属性，在来自 8 个系列的 11 个现代解码器模型中，α_eff 聚集在 1.53（留一架构平均绝对百分比误差为 7.7%）。
主要结果
1.⁠ ⁠仅软件层面就实现了 2.9 倍的差距，相同的 Qwen 2.5 0.5B Q8_0 GGUF，相同的主网容器框架，相同的 40B 容量上限：onicai 基线版本每次调用 10 tok，而我们的分支版本每次调用 29 tok，权重和边界条件完全相同，区别在于内核路径向量化（量化矩阵乘法内部循环的 SIMD 分派），该结果已通过对公开源代码进行全新重建（REPRODUCE.md，约 30 分钟 CPU 时间，无需其他 CPU 周期）进行了独立验证。
2. 矩阵乘法 (Matmul) 占解码成本的 98.7%，其他所有操作（归一化、注意力机制等）的成本均 ≤ 1.3–1.7%，我们还证明了一个小定理：元素级非结构化稀疏性会严格增加所测量整数路径的成本，一阶优化手段只有一个，那就是矩阵乘法核。
3.⁠ ⁠基于共识机制的三进制底层，我们构建了一个自定义的 TQ2_0（2 位三进制）WASM SIMD 内核（上游 llama.cpp 中没有），并在解码路径的经验底层运行了专门训练的 TriLM 模型：在 560M 和 3.9B 数据量下，α_eff ≈ 1.00，在本地副本、13 节点 Swiss 子网和标准 ICP 主网子网之间，无论构建版本如何，也无论权重转换流程如何，输出结果都完全相同。
4. 会话可以进行分析性预算，多调用有状态会话的 I/O 开销是可预测的两阶段 I/O 开销（键值缓存保存/加载），与缓存大小呈线性关系（负载扫描的 R² 为 0.9998），在瑞士子网上，采用 13 节点共识机制运行了一个 10 轮聊天演示。
5. 检索功能与该机制非常契合，EmbeddingGemma-300M Q4_0 完全链上运行，每次调用大约需要 126 个输入代币，批量编码可以分摊单个代币解码无法分摊的按权重计算的负载。
为什么这对 IC 很重要？
由此得出的实用方案是：选择质量模型（目前是绑定约束），根据指令律选择参数数量和量化方式，优化矩阵乘法内核，并将保存的会话状态视为预算的一部分。
有趣的是，40B 的预算甚至不是当前规模下的实际部署上限，WebAssembly 堆和页面访问限制才是（本文包含 IC0524 / IC0502 的特性分析）。
这里没有任何需要信任的地方，每个承重数据都对应工件中一个已命名的 CSV 行，叉间隙重建完全由脚本控制。
我很乐意回答关于方法论、瑞士子网运行、三元内核或其他任何问题，非常欢迎反馈和反驳，代码库中的论点与证据矩阵正是为此而设计的。
更多相关讨论：
https://forum.dfinity.org/t/on-chain-llm-inference-under-instruction-budgets-measured-live-on-icp-mainnet/74709
#DFINITY #ICP
你关心的 IC 内容
技术进展 | 项目信息 | 全球活动
收藏关注 IC 币安频道
掌握最新资讯

À vrai dire, il y a trois ans, lorsque j’ai reçu pour la première fois une invitation de collaboration du laboratoire de blockchain de Wanxiang, ma première réaction a été : est-ce qu’ils se sont trompés de personne ?
Après tout, à cette époque, la communauté IC en chinois n’était encore qu’un petit “petit fantôme” discret, traduisant des documents techniques dans un coin, et discutant parfois, dans un groupe, des mécanismes de consensus avec tout le monde. Quant à la Shanghai Blockchain International Week, c’est une activité de “vieux briscards” qui existe depuis 2015 : chaque automne, elle se tient à Shanghai, et plus de 2 000 personnes du monde entier affluent, en une masse compacte — des développeurs avec leur sac d’ordinateur sur le dos, des investisseurs avec leur porte-cartes, des entrepreneurs avec, dans les yeux, cette étincelle de “mon projet va changer le monde”. À ce niveau de grand événement, on me propose de collaborer ?

Franchement, au début je ne comprenais pas très bien à quoi sert exactement zCloak.
On dirait un projet de blockchain axé sur la confidentialité ? Ou plutôt un projet sur l’IA ? Et il y a aussi un lien très fort avec Singapour ? À chaque fois que je lis leur compte officiel, j’ai l’impression de suivre une série au rythme très lent, mais avec énormément d’indices : à chaque épisode, on croit avoir compris… et le suivant fait apparaître un nouveau concept.
Mais en les classant sur une chronologie, je me suis rendu compte d’un coup : dès le départ, ils savaient exactement ce qu’ils voulaient faire. C’est juste que le sujet est tellement vaste qu’il faut en parler, petit à petit, à travers ces dix articles.
Donc j’ai regroupé ces dix articles. Pour chacun, je te résume l’idée principale en une phrase. Tu n’as pas besoin de tous les lire : choisis simplement les passages qui t’intéressent et plonge-y.

Le 13 avril, nous avons rapporté que le montant des prêts actifs de Liquidium atteignait 100 000 dollars.
À l’époque, cela signifiait que, sur Liquidium, en fournissant du bitcoin comme garantie, 100 000 dollars de USDT avaient été empruntés activement. La valeur totale bloquée par l’ensemble du protocole était proche de 1 million de dollars.
Aujourd’hui, le 27 juillet, le montant des prêts actifs de Liquidium a dépassé 1 million de dollars.
Cela signifie qu’en l’espace de 105 jours, cela a été multiplié par environ 10. Ce chiffre est important, car il montre quels changements se sont produits entre ces deux points dans le temps.
Les utilisateurs empruntent et prêtent continuellement : le prêteur fournit des fonds en permanence. Le marché de nouveaux actifs en garantie et des stablecoins a été lancé, rendant l’application plus facile à utiliser. Le SDK, qui était au stade conceptuel, a évolué vers une infrastructure de construction concrète. Les utilisateurs du portefeuille OISY peuvent désormais accéder directement, depuis le portefeuille, aux services de prêt pris en charge par Liquidium.

Le deuxième trimestre 2026 a été une période particulièrement chargée pour ORIGYN : l’équipe a publié de nouveaux articles, participé à deux événements majeurs du secteur et lancé un nouvel outil. OGY a non seulement été reconnu au sein de la communauté, mais a aussi reçu des éloges de l’extérieur de l’entreprise. Voici le déroulement des événements, dans l’ordre chronologique.
Que fait la fondation ORIGYN ?
Ce trimestre commence par un article qui explique le rôle de la fondation ORIGYN. Il précise le champ de responsabilités de la fondation et la manière dont elle s’inscrit dans le processus décisionnel d’ORIGYN. L’objectif est d’apporter des réponses claires, plutôt que de rester dans le flou.

Les amis, c’est encore l’heure du grand rendez-vous hebdomadaire des IA : « regarder l’affaire + se moquer ». J’ai feuilleté ces journaux, et j’ai l’impression que l’état d’esprit de la tech cette semaine est franchement inquiétant — même plus agité que moi avant de rentrer vendredi soir. Allez, on en sélectionne quelques-unes pour le repas.
1. OpenAI : sauver des vies tout en « tuant »
OpenAI a été extrêmement schizophrène cette semaine.
La bonne nouvelle, c’est qu’ils ont lancé ChatGPT Health : il peut se connecter à vos données Apple Santé et vous proposer des « perspectives de santé personnalisées ». Ça fait rêver, non ? À l’avenir, quand vous veillerez à scroller sur votre téléphone, l’IA pourrait peut-être vous dire avec douceur : « Chéri(e), votre fréquence cardiaque est presque au même rythme que ma vitesse de raisonnement… reposez-vous un peu ? »

Les utilisateurs du portefeuille OISY peuvent désormais accéder directement depuis le portefeuille au marché d’emprunt et de prêt Liquidium.
Les utilisateurs peuvent, via la même interface, consulter les garanties prises en charge, emprunter des stablecoins, recevoir les fonds empruntés sur leur adresse OISY et surveiller leur position.
Au lancement sur OISY, les fonctions d’emprunt de l’ICP ne sont pas encore disponibles, mais elles devraient être mises en ligne prochainement. Les utilisateurs doivent vérifier le marché en temps réel de Liquidium pour confirmer les types d’actifs disponibles actuellement.
Comment utiliser Liquidium pour obtenir un prêt dans votre portefeuille OISY
Le portefeuille OISY propose désormais aux utilisateurs un moyen d’accéder directement, depuis l’intérieur du portefeuille, au marché d’emprunt et de prêt Liquidium.

Mesdames et messieurs, êtes-vous prêts à accueillir une actualité technologique “sérieuse”, mais avec une petite touche “pas si sérieuse” ? Aujourd’hui, le personnage principal, c’est - zCloak. Ne vous laissez pas impressionner par ce nom : ce n’est pas un équipement d’espion, mais bien un acteur déterminé à vous revêtir une “casaque de fer pour la confidentialité” à l’ère de l’IA.
Si l’ère de l’IA vous rend à la fois excité et un peu inquiet, et que vous avez l’impression que vos petits secrets sont à la merci de l’IA comme si vous n’aviez pas de vêtements, alors zCloak est là pour vous offrir un “bouton une-clique pour vous habiller”. Récemment, zCloak a fait un grand événement : ils ont amélioré tout le système de fond en comble. On pourrait dire qu’ils sont passés du statut de “héros de la protection de la vie privée” à celui de “grand intendant de la confiance économique dans l’IA”.