Gemini 3.1 Pro复测第三轮隐私政策对比评测附录：原始数据全公开
不接广告不恰饭，分数只对题目负责。这篇按评测的顺序写：结论、方法、数据、短板、适配。
删掉了形容词，留下的都是核对过的数字。
下面这些，都是亲手测过才敢写。
常见翻车点对照
评测执行中的高频错误。
| 环节 | 翻车点 | 后果 | 对策 |
|---|---|---|---|
| 选题 | 全是公开套题 | 成绩虚高 | 一半自编 |
| 环境 | 配置中途变动 | 成绩不可比 | 锁死配置 |
| 盲评 | 品牌信息泄露 | 评分偏移 | 去标识编号 |
| 统计 | 只报均值 | 掩盖抖动 | 报中位数+区间 |
| 结论 | 当天就发布 | 无法推翻 | 压三天再发 |
01测试的边界
那一个月只加了一个习惯：先亮方法再亮结论。把边界写明白，是评测的基本操守。
把样本拉大后：分数变化百分之五以内，视为人手误差。让没用过的人参与盲评，老手会被经验污染。
实测中意外的是：盲评时把品牌信息全部去掉，编号打乱。题目一半自编一半公开，防止套题。
具体说咖啡馆的计时器旁那一轮：盲评顺序记错了一次，整组作废重来。测试环境写进附录，是可复现的最低要求。数据都在附录，不信就来复现。
02对号入座
试过更花哨的评测框架，最后退回一张表格。判断标准只有一条：你的高频任务是不是它的强项。
补充一组数据：具体说咖啡馆的计时器旁那一轮：盲评顺序记错了一次，整组作废重来。复测用同一组题，别换题，否则不叫复测。
追问下去：具体说咖啡馆的计时器旁那一轮：盲评顺序记错了一次，整组作废重来。方法有缺陷就写进「已知局限」，别装没有。
追问下去：数据磁盘单独留档，报告不妨改，数据不能改。结论压三天再发，是给自己留推翻的余地。结论不妨质疑，方法随时欢迎检查。
03数据与样张
多花了一杯咖啡的时间核对来源，省下了一次翻车。表格里是全部原始成绩，没有挑拣。
那一个月只加了一个习惯：先亮方法再亮结论。引用别人的数据必须标来源和测试条件。
这事没捷径，只有不跳步。方法有缺陷就写进「已知局限」，别装没有。
账单摊开算：把盲测编号固定放在咖啡馆的计时器旁，测试条件再没乱过。结论压三天再发，是给自己留推翻的余地。
那阵子评测报告能见人了是整份报告里最硬的一条。样本量写清楚，十道题的结论撑不起「完胜」。分数是死的，你的任务才是活的。
“方法公开，结论才站得住。”
04下一步
有新版本就回来更新这篇，旧结论会标注存档。
实测中意外的是：给每篇评测定一个复核日期，到期强制回看。只测一遍就下结论，等于没测。
对照记录看：对比对象选同档热门，别拿小厂刷战绩。把反对意见原样贴出来，比一致好评有用。
追问下去：结论先行不是抢跑，是对读者时间的基本尊重。盲评时把品牌信息全部去掉，编号打乱。
05直接说答案
最有用的一条：允许结论被推翻。先说判定：值得测的场景多，值得付钱的场景少。
换个角度看：最有用的一条：允许结论被推翻。给每个数字标上时间戳，三个月后还能对账。
值得单独说明：多花了一杯咖啡的时间核对来源，省下了一次翻车。把反对意见原样贴出来，比一致好评有用。
咖啡馆的计时器旁的测试做完之后，整份报告都顺了。付费档和免费档分开出成绩单。分数是死的，你的任务才是活的。
- 盲评打分 去品牌编号乱序
- 压三天 给自己留推翻余地
- 冻结题库 一半自编防套题
- 高峰加测 闲时成绩不算数
06同题对决
没什么诀窍，就是每个数字都留了原始记录。同题同参对决，胜负一目了然。
补充一组数据：没什么诀窍，就是每个数字都留了原始记录。把对手的优点也写出来，报告才立得住。
最有用的一条：允许结论被推翻。被推翻的结论不删除，划线存档并注明。
第二季度复测，快了一倍，因为题库是现成的。失败的用例原样保留，那是报告的一半价值。
追问下去：这事没捷径，只有不跳步。让没用过的人参与盲评，老手会被经验污染。
07它做不到什么
试过更花哨的评测框架，最后退回一张表格。短板集中在两处，都有复现步骤。
值得单独说明：众测样本要覆盖三种以上岗位，技术岗扎堆会失真。盲评时把品牌信息全部去掉，编号打乱。
账单摊开算：把盲测编号固定放在咖啡馆的计时器旁，测试条件再没乱过。评测报告里最值钱的是失败记录。
口径统一后：当时手头只有盲测编号，照样把整轮测试跑完了。让没用过的人参与盲评，老手会被经验污染。
五个评测维度的权重分布（参考）
08先亮方法
多花了一杯咖啡的时间核对来源，省下了一次翻车。环境与参数写在文末附录，欢迎一键复现。
换个角度看：当时手头只有盲测编号，照样把整轮测试跑完了。结论先行不是抢跑，是对读者时间的基本尊重。
具体说咖啡馆的计时器旁那一轮：盲评顺序记错了一次，整组作废重来。官方榜单只当索引，不当证据。
先说反例：把报告拆两半发，中途设了个勘误窗口。评测工具本身也要校准，尺子歪了全盘皆输。
对照记录看：失败的用例原样保留，那是报告的一半价值。评测工具本身也要校准，尺子歪了全盘皆输。数据都在附录，不信就来复现。
不着急下结论，题库随时开放。
常被问到的
- Gemini 3.1 Pro跑分很高，体感却一般？
- 先怀疑套题：高频出现的题目模型可能见过。换成自己编的新题再测，掉分多少就是真实水平。
- Gemini 3.1 Pro值得为了评测里的一个优点订阅吗？
- 把那个优点换算成你的使用频率：每周都用得上就值，一个月一次就先用免费档。
- 评测多久更新一次合理？
- 模型迭代按季度看，评测按季度复测。每月更新的多是榜单搬运，自己沉淀一套固定题集更值钱。
- 免费档和付费档值得分开测吗？
- 必须分开。两档背后常是不同规格的模型，混在一起评会得出「时好时坏」的假结论。