六十多亿次人工智能请求，被整理成了一份公开数据。
去中心化推理平台Chutes与哈佛大学的研究者合作，公开了一份可能是同类中规模最大的大模型服务元数据数据集。数据覆盖一年，从2025年4月11日到2026年4月12日，包含六十一亿两千两百四十一万三千七百五十六次请求、九千一百七十四个模型、三十一万四千九百七十名匿名用户，可经代码托管平台与校方存储下载。
公开的是元数据，不是对话内容。里面有时间、令牌数量、延迟和首字响应时间，没有提示词，也没有回答。这种只放元数据的做法，本身是隐私与可研究性之间的一次取舍。
这一年的流量里，输入令牌约三十五点八万亿，输出约二点五二万亿。研究者给出的一个结论是，约百分之九十九的请求在十五分钟内是重复的，这些数字让外界第一次能按真实流量估算推理服务的成本结构。
这个比例对基础设施的意义很直接。既然大量请求在短时间内重复，缓存和调度就有很大的优化空间，而不是一味堆算力，重复率带来的价值可能高于参数规模。
最贵的问题，往往是被重复问了很多遍的那个。
#人工智能 #数据
去中心化推理平台Chutes与哈佛大学的研究者合作，公开了一份可能是同类中规模最大的大模型服务元数据数据集。数据覆盖一年，从2025年4月11日到2026年4月12日，包含六十一亿两千两百四十一万三千七百五十六次请求、九千一百七十四个模型、三十一万四千九百七十名匿名用户，可经代码托管平台与校方存储下载。
公开的是元数据，不是对话内容。里面有时间、令牌数量、延迟和首字响应时间，没有提示词，也没有回答。这种只放元数据的做法，本身是隐私与可研究性之间的一次取舍。
这一年的流量里，输入令牌约三十五点八万亿，输出约二点五二万亿。研究者给出的一个结论是，约百分之九十九的请求在十五分钟内是重复的，这些数字让外界第一次能按真实流量估算推理服务的成本结构。
这个比例对基础设施的意义很直接。既然大量请求在短时间内重复，缓存和调度就有很大的优化空间，而不是一味堆算力，重复率带来的价值可能高于参数规模。
最贵的问题，往往是被重复问了很多遍的那个。
#人工智能 #数据
