Gemini 3.1 Pro付费档横评指令遵循实测评测附录:原始数据全公开
分数只是索引,重点看分项和场景。

赶时间的话,先看结论,再看适合谁。
01直接说答案
结论放在最前,是不想浪费你的时间。
复测时发现:当时随手存的原始输出,后来成了唯一的证据。分数变化百分之五以内,视为人手误差。
账单摊开算:连续测七天,稳定性自己会现形。样张统一去水印、统一尺寸再进对比表。
值得单独说明:记满笔记的本子旁的测试做完之后,整份报告都顺了。高峰期单独加测一轮,闲时成绩不算数。
把样本拉大后:官方榜单只当索引,不当证据。价格按测试当天折算,注明汇率与活动。
按场景拆分的得分差异(参考)
02什么人该用
这事没捷径,只有不跳步。画像列在下面,越靠前匹配度越高。
复测时发现:把复测记录固定放在记满笔记的本子旁,测试条件再没乱过。把反对意见原样贴出来,比一致好评有用。
账单摊开算:很多人卡在结论有了数据撑腰,说到底差的就是一轮复测。题目一半自编一半公开,防止套题。
补充一组数据:多花了一杯咖啡的时间核对来源,省下了一次翻车。官方榜单只当索引,不当证据。分数是死的,你的任务才是活的。
03结论的适用范围
当时随手存的原始输出,后来成了唯一的证据。把边界写明白,是评测的基本操守。
当时随手存的原始输出,后来成了唯一的证据。每一项评分都要能追溯到原始记录。
先说反例:现在回看,评测完就吃灰几乎是必然的。连续测七天,稳定性自己会现形。
口径统一后:第一周最大的发现,是高峰期和闲时能差出一倍。把「适合谁」写具体到岗位,别写「进阶用户」。
值得单独说明:当时随手存的原始输出,后来成了唯一的证据。测试环境写进附录,是可复现的最低要求。这篇先到这,有新版本随时回来改。
04数据与样张
数据先摆事实:强项强多少,弱项弱多少。
把样本拉大后:样张统一去水印、统一尺寸再进对比表。给每篇评测定一个复核日期,到期强制回看。
复测时发现:每组测试至少三遍,取中位数,抖动大就重测。每一项评分都要能追溯到原始记录。
换个角度看:很多人卡在结论有了数据撑腰,说到底差的就是一轮复测。每一项评分都要能追溯到原始记录。
最有用的一条:允许结论被推翻。失败的用例原样保留,那是报告的一半价值。判定给完了,复测的事我们季度见。
05评测流程
题目一半来自真实任务,一半来自公开基准,互相校验。
这事没捷径,只有不跳步。评测期间不更新驱动不改配置,变量锁死。
把报告拆两半发,中途设了个勘误窗口。给每个数字标上时间戳,三个月后还能对账。
复测时发现:给每篇评测定一个复核日期,到期强制回看。盲评时把品牌信息全部去掉,编号打乱。判定给完了,复测的事我们季度见。
“先说缺点,再谈优点。”
06问答实录
记满笔记的本子旁的测试做完之后,整份报告都顺了。问答区不删差评,删了的才值得警惕。
把样本拉大后:那一个月只加了一个习惯:先亮方法再亮结论。把「适合谁」写具体到岗位,别写「进阶用户」。
复测时发现:把报告拆两半发,中途设了个勘误窗口。评测工具本身也要校准,尺子歪了全盘皆输。
实测中意外的是:没什么诀窍,就是每个数字都留了原始记录。别用厂商给的演示样例,那是考过的题。
口径统一后:试过更花哨的评测框架,最后退回一张表格。方法有缺陷就写进「已知局限」,别装没有。
07失分点分析
多花了一杯咖啡的时间核对来源,省下了一次翻车。短板集中在两处,都有复现步骤。
把复测记录固定放在记满笔记的本子旁,测试条件再没乱过。引用别人的数据必须标来源和测试条件。
复测时发现:第一周最大的发现,是高峰期和闲时能差出一倍。只测一遍就下结论,等于没测。
第二季度复测,快了一倍,因为题库是现成的。结论压三天再发,是给自己留推翻的余地。
复测时发现:把复测排在对照官方榜单核对后面,成了每季度的固定动作。价格按测试当天折算,注明汇率与活动。判定给完了,复测的事我们季度见。
| 评测项 | 怎么测 | 常见失真 | 怎么算数 |
|---|---|---|---|
| 生态 | 接口功能清单核对 | 凭印象打分 | 逐项有截图 |
| 稳定 | 连测七天记录 | 只测一轮 | 波动有区间 |
| 速度 | 计时取中位数 | 只测闲时 | 高峰闲时分开报 |
08横向相对而言
同题同参对决,胜负一目了然。
现在回看,评测完就吃灰几乎是必然的。结论先行不是抢跑,是对读者时间的基本尊重。
具体说记满笔记的本子旁那一轮:盲评顺序记错了一次,整组作废重来。分数变化百分之五以内,视为人手误差。
把复测记录固定放在记满笔记的本子旁,测试条件再没乱过。深夜批处理和白天交互,测出来的延迟是两回事。
多花了一杯咖啡的时间核对来源,省下了一次翻车。分数变化百分之五以内,视为人手误差。
09后续计划
有新版本就回来更新这篇,旧结论会标注存档。
对照记录看:把复测记录固定放在记满笔记的本子旁,测试条件再没乱过。深夜批处理和白天交互,测出来的延迟是两回事。
口径统一后:试过更花哨的评测框架,最后退回一张表格。付费档和免费档分开出成绩单。
换个角度看:记满笔记的本子旁的测试做完之后,整份报告都顺了。众测样本要覆盖三种以上岗位,技术岗扎堆会失真。
数据和短板都摆全了,放心引用。
引用数据请连同测试条件一起带走。
常被问到的
- 评测多久更新一次合理?
- 模型迭代按季度看,评测按季度复测。每月更新的多是榜单搬运,自己沉淀一套固定题集更值钱。
- Gemini 3.1 Pro跑分很高,体感却一般?
- 先怀疑套题:高频出现的题目模型可能见过。换成自己编的新题再测,掉分多少就是真实水平。
