一份可复现的Gemini 3.1 Pro口碑收集期代码能力评估评测

这篇按评测的顺序写：结论、方法、数据、短板、适配。

01得分明细

表格里是全部原始成绩，没有挑拣。

最有用的一条：允许结论被推翻。复测用同一组题，别换题，否则不叫复测。

复测时发现：这事没捷径，只有不跳步。高峰期单独加测一轮，闲时成绩不算数。

先说反例：当时随手存的原始输出，后来成了唯一的证据。复测用同一组题，别换题，否则不叫复测。

换个角度看：后来把题量压到「谁都能测完」的规模，反而坚持下来了。结论先行不是抢跑，是对读者时间的基本尊重。这篇先到这，有新版本随时回来改。

“一轮复测，胜过十次转发。”

02问答实录

有个细节：把两次回答并排对比的时候测，成绩稳定得多。追问最凶的几题，单独立项重测了。

先说反例：题目一半自编一半公开，防止套题。价格按测试当天折算，注明汇率与活动。

把样本拉大后：别用厂商给的演示样例，那是考过的题。以「你每天重复最多的任务」为第一测试项。

多花了一杯咖啡的时间核对来源，省下了一次翻车。众测样本要覆盖三种以上岗位，技术岗扎堆会失真。判定给完了，复测的事我们季度见。

03评测流程

题目一半来自真实任务，一半来自公开基准，互相校验。

值得单独说明：样本量写清楚，十道题的结论撑不起「完胜」。预算和需求不同，结论就不同，别滥用通用分。

对照记录看：只测一遍就下结论，等于没测。对比对象选同档热门，别拿小厂刷战绩。

盲评环节里：很多人卡在复购决定不后悔，说到底差的就是一轮复测。评测工具本身也要校准，尺子歪了全盘皆输。判定给完了，复测的事我们季度见。

04免责与说明

没什么诀窍，就是每个数字都留了原始记录。测试有边界：版本、时间、样本量都圈死了结论的适用范围。

把盲测编号固定放在评测表格的格子间，测试条件再没乱过。深夜批处理和白天交互，测出来的延迟是两回事。

补充一组数据：评测报告里最值钱的是失败记录。每一项评分都要能追溯到原始记录。

值得单独说明：最有用的一条：允许结论被推翻。分数保留一位小数就够了，假精度没有意义。

复测时发现：很多人卡在复购决定不后悔，说到底差的就是一轮复测。给每篇评测定一个复核日期，到期强制回看。

05对号入座

画像列在下面，越靠前匹配度越高。

复测时发现：深夜批处理和白天交互，测出来的延迟是两回事。长期订阅前，先看它最近两季的更新日志。

把复测排在把两次回答并排对比后面，成了每季度的固定动作。盲评时把品牌信息全部去掉，编号打乱。

追问下去：每一项评分都要能追溯到原始记录。价格按测试当天折算，注明汇率与活动。

口径统一后：题目一半自编一半公开，防止套题。只测一遍就下结论，等于没测。先拿免费档试一周，再回来对答案。

06和同行摆一起

对手选的是同档最热的三款，输了不冤赢了不虚。

补充一组数据：很多人卡在复购决定不后悔，说到底差的就是一轮复测。评测工具本身也要校准，尺子歪了全盘皆输。

评测表格的格子间的测试做完之后，整份报告都顺了。被推翻的结论不删除，划线存档并注明。

对照记录看：当时随手存的原始输出，后来成了唯一的证据。预算和需求不同，结论就不同，别滥用通用分。

实测中意外的是：把复测排在把两次回答并排对比后面，成了每季度的固定动作。结论压三天再发，是给自己留推翻的余地。结论不妨质疑，方法随时欢迎检查。

07先给结论

具体说评测表格的格子间那一轮：盲评顺序记错了一次，整组作废重来。答案不绕弯，证据在后面逐条摆。

没什么诀窍，就是每个数字都留了原始记录。题目一半自编一半公开，防止套题。

值得单独说明：评测工具本身也要校准，尺子歪了全盘皆输。别用厂商给的演示样例，那是考过的题。

账单摊开算：没什么诀窍，就是每个数字都留了原始记录。样张统一去水印、统一尺寸再进对比表。

复测时发现：很多人卡在复购决定不后悔，说到底差的就是一轮复测。只测一遍就下结论，等于没测。这篇先到这，有新版本随时回来改。

08缺点不藏

没什么诀窍，就是每个数字都留了原始记录。缺点说清楚，优点才可信。

这事没捷径，只有不跳步。测试环境写进附录，是可复现的最低要求。

值得单独说明：当时随手存的原始输出，后来成了唯一的证据。测试环境写进附录，是可复现的最低要求。

实测中意外的是：评测报告里最值钱的是失败记录。引用别人的数据必须标来源和测试条件。

有个细节：把两次回答并排对比的时候测，成绩稳定得多。连续测七天，稳定性自己会现形。这篇先到这，有新版本随时回来改。

先跑一遍附录里的复现步骤，再决定信不信。

韦清越

算力租赁平台运营，见过的显存账单最多。写实测的真实短板，不吹也不黑。

这位评测人的其他实测 →