性能实测

只展示经过自动方法检查与人工复审的记录。

JSON · Schema 1.4

Benchmark 文件要求

使用一个 UTF-8 JSON 对象保存测试条件与逐轮结果。样例仅演示结构,提交前请替换其中的设备、版本、地址和测量值。

.json 单一对象 ≤ 256 KiB UTF-8 3–100 轮 等长数组
01

固定身份

模型使用不可变 revision,设备、后端、格式与精度匹配当前目录。

02

标准方法

稳态 runtime、每轮清空 prompt/KV cache,纯文本测试不加载 mmproj。

03

稳定结果

至少 3 轮,填写 prompt 标识、吞吐与耗时;Prefill/Decode CV 均不超过 5%。

04

方法留档

记录生成器、运行指令和实际生效的优化;服务端只解析文本,不执行指令。

格式与自动方法检查通过后才能进入待复审区;只有人工批准后才会公开。

Review first

提交 Benchmark

文件会经过 Schema、目录、方法、稳定性和历史去重检查;通过后仍需确认提交并等待人工复审。

仅接受一个 UTF-8 JSON 对象 下载样例
等待选择文件。
阅读提示优先比较模型下载地址、量化、设备/SoC、后端版本、PP/TG、上下文、batch 与并发一致的数据。

筛选实测

筛选条件使用 AND 逻辑;URL 会保留当前模型族。

正在加载…

实测记录

目录来源加载中…

完整表格可左右滑动;移动端优先展示 Prefill 与 Decode。

优化 来源
正在加载真实测量记录…