Acurast 给 AI 加了个“门卫”,你可以试着骗过它
假设你让 Agent 整理邮件,某封邮件里却夹着一段要求它改任务的指令。
它要是把邮件正文当成命令,后面的自动化就可能跑偏。
@Acurast 的 Laya 演示里,有个 Jailbreak the Guard,专门把这件事做成了一个能互动的场景。你提交输入,模型判断该放行还是拦截,以及它像哪种攻击。负责判断的 Laya,运行在 Acurast 网络的一台安卓手机上。
我觉得这个用途很具体。
一个接收外部消息的助手,可以在入口处加一轮检查,把可疑内容先标出来。尤其是后面还要调用工具、处理业务数据的工作流,这一步值得单独做好。
官方给出的接口也比较直接。提交当前情境和候选选项,返回选择及相应概率,并提供 JavaScript、Python 等调用示例,方便开发者接入自己的应用。
当然,这个演示展示的是判断结果,门后没有真实助手。官方也明确说了,复杂的对抗性文本仍可能骗过模型。
所以我会把它当作初筛,涉及重要操作的权限另行控制。
这种演示好在,你可以自己出题,看看它哪里判断得准、哪里会漏。手机算力能做什么,也就有了一个具体的体验入口。
#Acurast #AI #DePIN
假设你让 Agent 整理邮件,某封邮件里却夹着一段要求它改任务的指令。
它要是把邮件正文当成命令,后面的自动化就可能跑偏。
@Acurast 的 Laya 演示里,有个 Jailbreak the Guard,专门把这件事做成了一个能互动的场景。你提交输入,模型判断该放行还是拦截,以及它像哪种攻击。负责判断的 Laya,运行在 Acurast 网络的一台安卓手机上。
我觉得这个用途很具体。
一个接收外部消息的助手,可以在入口处加一轮检查,把可疑内容先标出来。尤其是后面还要调用工具、处理业务数据的工作流,这一步值得单独做好。
官方给出的接口也比较直接。提交当前情境和候选选项,返回选择及相应概率,并提供 JavaScript、Python 等调用示例,方便开发者接入自己的应用。
当然,这个演示展示的是判断结果,门后没有真实助手。官方也明确说了,复杂的对抗性文本仍可能骗过模型。
所以我会把它当作初筛,涉及重要操作的权限另行控制。
这种演示好在,你可以自己出题,看看它哪里判断得准、哪里会漏。手机算力能做什么,也就有了一个具体的体验入口。
#Acurast #AI #DePIN
