你填进 AI 工具的地址，背后可以是一台手机
@Acurast 的 NodeGhost 参考示例里，一台手机运行量化版 Qwen2.5-3B，再通过网关提供兼容 OpenAI 格式的 API。模型在手机上完成推理，示例可在 Canary 网络部署。
我感兴趣的是，开发者可以沿用熟悉的调用方式。
支持这类接口、允许自定义地址的工具，调整配置后就能尝试对接。比如一个已经写好的摘要脚本，可以保留原来的调用逻辑，换个后端试跑。
接入顺不顺手，很影响我愿不愿意继续研究。光是发出第一条请求就要折腾半天，再好的演示，也容易让人关掉页面。
性能得摊开看。官方示例约每秒生成 3 个 token，一段约 120 token 的回复需要等 45 秒，多步推理也会出错。这个速度，更适合不急着拿结果的后台任务。
盯着聊天框等 45 秒，我会着急。
如果让我选第一项测试，我会接一个低频的短摘要任务。记录等待时间，抽查内容有没有漏掉关键信息。接口接通以后，这些细节才决定它能不能留在我的工作流里。
推荐码：kr7h9k
#Acurast #DePIN #AI
@Acurast 的 NodeGhost 参考示例里，一台手机运行量化版 Qwen2.5-3B，再通过网关提供兼容 OpenAI 格式的 API。模型在手机上完成推理，示例可在 Canary 网络部署。
我感兴趣的是，开发者可以沿用熟悉的调用方式。
支持这类接口、允许自定义地址的工具，调整配置后就能尝试对接。比如一个已经写好的摘要脚本，可以保留原来的调用逻辑，换个后端试跑。
接入顺不顺手，很影响我愿不愿意继续研究。光是发出第一条请求就要折腾半天，再好的演示，也容易让人关掉页面。
性能得摊开看。官方示例约每秒生成 3 个 token，一段约 120 token 的回复需要等 45 秒，多步推理也会出错。这个速度，更适合不急着拿结果的后台任务。
盯着聊天框等 45 秒，我会着急。
如果让我选第一项测试，我会接一个低频的短摘要任务。记录等待时间，抽查内容有没有漏掉关键信息。接口接通以后，这些细节才决定它能不能留在我的工作流里。
推荐码：kr7h9k
#Acurast #DePIN #AI