arXiv上出了一篇预印本,作者提出API-TAIL,专门查部分请求被悄悄换到便宜模型的情况。背景是商业语言模型API只返回文本,供应商理论上可以在按原模型收费的同时,把一部分请求路由给更便宜的替代品。难查的地方在于,正规供应商也会调温度、截断采样、加重复和存在惩罚、改默认系统提示,输出分布本来就偏移;所以审计要面对一组合法配置,而不是单一参照。API-TAIL的思路是按整批对齐一个有效温度,把标准化意外度居中,再看剩余尾部响应的数量是否超过在合法配置上校准的阈值。作者称在真实商业API上能控制误报,少量查询预算也能检出低比例替换,效果强于基于排名和MMD的审计。预印本,未见同行评审。
$BTC
$BTC
