Gemini 3.1 Pro老手盲测稳定性观察被高估了吗？数据说话

篇幅不长，每节都能独立引用。

01缺点不藏

把测试题库固定放在深夜的对照实验里，测试条件再没乱过。短板集中在两处，都有复现步骤。

盲评环节里：当时随手存的原始输出，后来成了唯一的证据。复测用同一组题，别换题，否则不叫复测。

追问下去：样本量写清楚，十道题的结论撑不起「完胜」。报告末尾留一行勘误记录，错了就补。

值得单独说明：后来把题量压到「谁都能测完」的规模，反而坚持下来了。把对手的优点也写出来，报告才立得住。

盲评环节里：结论与口碑冲突时，两头都重查一遍。深夜批处理和白天交互，测出来的延迟是两回事。

02先亮方法

每组测试跑三遍取中位数，抖动超过一成就重测。

第一周最大的发现，是高峰期和闲时能差出一倍。样张统一去水印、统一尺寸再进对比表。

账单摊开算：别用厂商给的演示样例，那是考过的题。让没用过的人参与盲评，老手会被经验污染。

没什么诀窍，就是每个数字都留了原始记录。别用厂商给的演示样例，那是考过的题。

试过更花哨的评测框架，最后退回一张表格。测速脚本开源出来，接受同样的审视。结论不妨质疑，方法随时欢迎检查。

03结论的适用范围

个人样本量有限，趋势可信，精确数字别较真。

先说反例：长期订阅前，先看它最近两季的更新日志。价格按测试当天折算，注明汇率与活动。

对照记录看：试过更花哨的评测框架，最后退回一张表格。方法有缺陷就写进「已知局限」，别装没有。

先说反例：结论压三天再发，是给自己留推翻的余地。官方榜单只当索引，不当证据。

04横向相对而言

对比表在下面，每一格都能溯源到原始记录。

换个角度看：把测试题库固定放在深夜的对照实验里，测试条件再没乱过。把反对意见原样贴出来，比一致好评有用。

账单摊开算：评测工具本身也要校准，尺子歪了全盘皆输。结论与口碑冲突时，两头都重查一遍。

多花了一杯咖啡的时间核对来源，省下了一次翻车。官方榜单只当索引，不当证据。

把样本拉大后：长期订阅前，先看它最近两季的更新日志。给每篇评测定一个复核日期，到期强制回看。

“一轮复测，胜过十次转发。”

05读者问答复盘

现在回看，缺点一笔带过几乎是必然的。问答比正文诚实，语气都保留了。

账单摊开算：现在回看，缺点一笔带过几乎是必然的。题目一半自编一半公开，防止套题。

先说反例：后来把题量压到「谁都能测完」的规模，反而坚持下来了。样张统一去水印、统一尺寸再进对比表。

复测时发现：引用别人的数据必须标来源和测试条件。对比对象选同档热门，别拿小厂刷战绩。

06什么人该用

当时随手存的原始输出，后来成了唯一的证据。三类人适合，两类人别碰，对号入座。

盲评环节里：多花了一杯咖啡的时间核对来源，省下了一次翻车。结论压三天再发，是给自己留推翻的余地。

账单摊开算：把复测排在把结论先放一周再定后面，成了每季度的固定动作。价格按测试当天折算，注明汇率与活动。

第一周最大的发现，是高峰期和闲时能差出一倍。数据磁盘单独留档，报告不妨改，数据不能改。结论不妨质疑，方法随时欢迎检查。

07先给结论

很多人卡在换模型的底气足了，说到底差的就是一轮复测。先说判定：值得测的场景多，值得付钱的场景少。

值得单独说明：响应速度单独测，别和正确率混在一个分里。报告末尾留一行勘误记录，错了就补。

把样本拉大后：把报告拆两半发，中途设了个勘误窗口。样本量写清楚，十道题的结论撑不起「完胜」。

账单摊开算：试过更花哨的评测框架，最后退回一张表格。测试环境写进附录，是可复现的最低要求。

08留一个尾巴

有个细节：把结论先放一周再定的时候测，成绩稳定得多。有新版本就回来更新这篇，旧结论会标注存档。

实测中意外的是：引用别人的数据必须标来源和测试条件。付费档和免费档分开出成绩单。

补充一组数据：没什么诀窍，就是每个数字都留了原始记录。别用厂商给的演示样例，那是考过的题。

实测中意外的是：把测试题库固定放在深夜的对照实验里，测试条件再没乱过。响应速度单独测，别和正确率混在一个分里。

账单摊开算：分数变化百分之五以内，视为人手误差。响应速度单独测，别和正确率混在一个分里。

先跑一遍附录里的复现步骤，再决定信不信。

条件不同结论不同，按你的场景改。

鲁成针

机器学习工程师，量化方案试了个遍。结论站不住，方法先站住。

这位评测人的其他实测 →