单台手机装不下的模型,Acurast 想让一群手机来跑
手机算力有个绕不开的限制,内存就那么大。有些模型,单台设备确实装不下。
@Acurast 在 10 月 14 日的官方文章里,再次提到了 Cray 计算集群计划。目标是把数百台设备组织起来,缓解单台手机的计算限制,承接更大的模型任务。
这里有个区别得讲清楚。
很多手机各自处理小任务,和多台手机协同完成一个更大的任务,对网络的要求很不一样。Cray 瞄准的是后面这件事。官方路线图也把它单独列为 Compute Clusters。
如果这一步做成,开发者能选的工作负载就有机会扩大。手机机主的设备,也可能参与原本单机接不了的任务。
Cray 目前仍属于规划中的能力。 官方最新文章谈的是目标,不能把它写成已经全面可用的产品。
我对这个方向有期待,也希望后面的演示足够具体。
拿一个单台手机确实跑不下的模型,公布需要多少设备、等待多久、一次调用花多少钱。把这些账摆出来,开发者就能判断自己的应用适不适合搬过去。
Acurast 这一步要解决的,是手机算力究竟还能接多大的活。
#Acurast #AI #DePIN
手机算力有个绕不开的限制,内存就那么大。有些模型,单台设备确实装不下。
@Acurast 在 10 月 14 日的官方文章里,再次提到了 Cray 计算集群计划。目标是把数百台设备组织起来,缓解单台手机的计算限制,承接更大的模型任务。
这里有个区别得讲清楚。
很多手机各自处理小任务,和多台手机协同完成一个更大的任务,对网络的要求很不一样。Cray 瞄准的是后面这件事。官方路线图也把它单独列为 Compute Clusters。
如果这一步做成,开发者能选的工作负载就有机会扩大。手机机主的设备,也可能参与原本单机接不了的任务。
Cray 目前仍属于规划中的能力。 官方最新文章谈的是目标,不能把它写成已经全面可用的产品。
我对这个方向有期待,也希望后面的演示足够具体。
拿一个单台手机确实跑不下的模型,公布需要多少设备、等待多久、一次调用花多少钱。把这些账摆出来,开发者就能判断自己的应用适不适合搬过去。
Acurast 这一步要解决的,是手机算力究竟还能接多大的活。
#Acurast #AI #DePIN

