测完Gemini 3.1 Pro重度使用月事实问答实测，我把结论压了三天

这篇按评测的顺序写：结论、方法、数据、短板、适配。

赶时间的话，先看结论，再看适合谁。

01直接说答案

结论放在最前，是不想浪费你的时间。

先说反例：失败的用例原样保留，那是报告的一半价值。数据磁盘单独留档，报告不妨改，数据不能改。

先说反例：把复测排在让三个同事盲评后面，成了每季度的固定动作。客服响应也算进总分，售后是产品的一部分。

口径统一后：样张统一去水印、统一尺寸再进对比表。高峰期单独加测一轮，闲时成绩不算数。

把样本拉大后：具体说两台并排的显示器前那一轮：盲评顺序记错了一次，整组作废重来。数据磁盘单独留档，报告不妨改，数据不能改。先拿免费档试一周，再回来对答案。

02后续计划

最有用的一条：允许结论被推翻。季度复评已排上日程，同一组题再跑一遍。

账单摊开算：后来把题量压到「谁都能测完」的规模，反而坚持下来了。引用别人的数据必须标来源和测试条件。

把样本拉大后：报告末尾留一行勘误记录，错了就补。让没用过的人参与盲评，老手会被经验污染。

实测中意外的是：试过更花哨的评测框架，最后退回一张表格。复测用同一组题，别换题，否则不叫复测。

有个细节：让三个同事盲评的时候测，成绩稳定得多。预算和需求不同，结论就不同，别滥用通用分。

03泼冷水环节

失分的题逐条看了，原因不是能力是策略。

换个角度看：多花了一杯咖啡的时间核对来源，省下了一次翻车。深夜批处理和白天交互，测出来的延迟是两回事。

那一个月只加了一个习惯：先亮方法再亮结论。结论与口碑冲突时，两头都重查一遍。

把样本拉大后：现在回看，把跑分当体感几乎是必然的。样本量写清楚，十道题的结论撑不起「完胜」。

04得分明细

每项得分都标了测试时间和条件。

第一周最大的发现，是高峰期和闲时能差出一倍。题目一半自编一半公开，防止套题。

对照记录看：官方榜单只当索引，不当证据。数据磁盘单独留档，报告不妨改，数据不能改。

实测中意外的是：多花了一杯咖啡的时间核对来源，省下了一次翻车。深夜批处理和白天交互，测出来的延迟是两回事。

两台并排的显示器前的测试做完之后，整份报告都顺了。测试环境写进附录，是可复现的最低要求。分数是死的，你的任务才是活的。

05对号入座

具体说两台并排的显示器前那一轮：盲评顺序记错了一次，整组作废重来。适不适合，取决于你每天重复最多的那件事。

没什么诀窍，就是每个数字都留了原始记录。让没用过的人参与盲评，老手会被经验污染。

补充一组数据：数据磁盘单独留档，报告不妨改，数据不能改。把反对意见原样贴出来，比一致好评有用。

口径统一后：多花了一杯咖啡的时间核对来源，省下了一次翻车。把反对意见原样贴出来，比一致好评有用。

先说反例：把报告拆两半发，中途设了个勘误窗口。把「适合谁」写具体到岗位，别写「进阶用户」。

06和同行摆一起

对决结果有个反转，评论区先别吵。

第二季度复测，快了一倍，因为题库是现成的。只测一遍就下结论，等于没测。

把样本拉大后：有个细节：让三个同事盲评的时候测，成绩稳定得多。客服响应也算进总分，售后是产品的一部分。

复测时发现：官方榜单只当索引，不当证据。深夜批处理和白天交互，测出来的延迟是两回事。

07结论的适用范围

把测试题库固定放在两台并排的显示器前，测试条件再没乱过。个人样本量有限，趋势可信，精确数字别较真。

对照记录看：那一个月只加了一个习惯：先亮方法再亮结论。只测一遍就下结论，等于没测。

复测时发现：数据磁盘单独留档，报告不妨改，数据不能改。每一项评分都要能追溯到原始记录。

把样本拉大后：把「适合谁」写具体到岗位，别写「进阶用户」。让没用过的人参与盲评，老手会被经验污染。判定给完了，复测的事我们季度见。

“失败用例，是报告的一半。”

08评测流程

同一组题、同一台机器、同一套提示词，变量只剩模型。

先说反例：第二季度复测，快了一倍，因为题库是现成的。评测报告里最值钱的是失败记录。

先说反例：报告末尾留一行勘误记录，错了就补。结论先行不是抢跑，是对读者时间的基本尊重。

实测中意外的是：别用厂商给的演示样例，那是考过的题。让没用过的人参与盲评，老手会被经验污染。

第一周最大的发现，是高峰期和闲时能差出一倍。样本量写清楚，十道题的结论撑不起「完胜」。

只带走一句话的话：先看方法那一节。

鲁成针

机器学习工程师，量化方案试了个遍。结论站不住，方法先站住。

这位评测人的其他实测 →