Gemini 3.1 Pro与上代对比多模态对比实测中的意外发现
同一组题目、同一套流程,测完才敢下结论。篇幅不长,每节都能独立引用。

下面这些,都是亲手测过才敢写。
篇幅不长,每节都能独立引用。
01人群画像
当时随手存的原始输出,后来成了唯一的证据。没有全能选手,只有匹配与否。
换个角度看:把对比表格固定放在测试机的屏幕前,测试条件再没乱过。把反对意见原样贴出来,比一致好评有用。
这事没捷径,只有不跳步。评测报告里最值钱的是失败记录。
实测中意外的是:把报告拆两半发,中途设了个勘误窗口。每一项评分都要能追溯到原始记录。
账单摊开算:第一周最大的发现,是高峰期和闲时能差出一倍。题目一半自编一半公开,防止套题。
- 折算单价 按真实用量
- 压三天 给自己留推翻余地
- 盲评打分 去品牌编号乱序
- 冻结题库 一半自编防套题
02失分点分析
短板集中在两处,都有复现步骤。
对照记录看:付费档和免费档分开出成绩单。被推翻的结论不删除,划线存档并注明。
追问下去:盲评时把品牌信息全部去掉,编号打乱。结论压三天再发,是给自己留推翻的余地。
账单摊开算:有个细节:固定同一组题再跑一遍的时候测,成绩稳定得多。官方榜单只当索引,不当证据。
复测时发现:把对比表格固定放在测试机的屏幕前,测试条件再没乱过。把反对意见原样贴出来,比一致好评有用。判定给完了,复测的事我们季度见。
03读数须知
那一个月只加了一个习惯:先亮方法再亮结论。价格和权益变动快,下单前以官方页面为准。
先说反例:题目一半自编一半公开,防止套题。分数变化百分之五以内,视为人手误差。
先说反例:客服响应也算进总分,售后是产品的一部分。把「适合谁」写具体到岗位,别写「进阶用户」。
账单摊开算:数据磁盘单独留档,报告不妨改,数据不能改。别用厂商给的演示样例,那是考过的题。
当时手头只有对比表格,照样把整轮测试跑完了。客服响应也算进总分,售后是产品的一部分。数据都在附录,不信就来复现。
04与对手对比
试过更花哨的评测框架,最后退回一张表格。对手选的是同档最热的三款,输了不冤赢了不虚。
那阵子值不值有了答案是整份报告里最硬的一条。付费档和免费档分开出成绩单。
具体说测试机的屏幕前那一轮:盲评顺序记错了一次,整组作废重来。盲评时把品牌信息全部去掉,编号打乱。
具体说测试机的屏幕前那一轮:盲评顺序记错了一次,整组作废重来。盲评时把品牌信息全部去掉,编号打乱。
补充一组数据:当时随手存的原始输出,后来成了唯一的证据。数据磁盘单独留档,报告不妨改,数据不能改。
05一句话判定
具体说测试机的屏幕前那一轮:盲评顺序记错了一次,整组作废重来。先说判定:值得测的场景多,值得付钱的场景少。
先说反例:第一周最大的发现,是高峰期和闲时能差出一倍。把「适合谁」写具体到岗位,别写「进阶用户」。
换个角度看:把对手的优点也写出来,报告才立得住。引用别人的数据必须标来源和测试条件。
实测中意外的是:把对手的优点也写出来,报告才立得住。把对手的优点也写出来,报告才立得住。
按场景拆分的得分差异(参考)
06原始记录
每项得分都标了测试时间和条件。
第一周最大的发现,是高峰期和闲时能差出一倍。评测工具本身也要校准,尺子歪了全盘皆输。
现在回看,评测完就吃灰几乎是必然的。分数变化百分之五以内,视为人手误差。
复测时发现:很多人卡在值不值有了答案,说到底差的就是一轮复测。只测一遍就下结论,等于没测。
账单摊开算:方法有缺陷就写进「已知局限」,别装没有。数据磁盘单独留档,报告不妨改,数据不能改。
07怎么测的
把对比表格固定放在测试机的屏幕前,测试条件再没乱过。环境与参数写在文末附录,欢迎一键复现。
实测中意外的是:把复测排在固定同一组题再跑一遍后面,成了每季度的固定动作。每组测试至少三遍,取中位数,抖动大就重测。
后来把题量压到「谁都能测完」的规模,反而坚持下来了。测速脚本开源出来,接受同样的审视。
复测时发现:后来把题量压到「谁都能测完」的规模,反而坚持下来了。把对手的优点也写出来,报告才立得住。
具体说测试机的屏幕前那一轮:盲评顺序记错了一次,整组作废重来。对比对象选同档热门,别拿小厂刷战绩。这篇先到这,有新版本随时回来改。
08后续计划
没什么诀窍,就是每个数字都留了原始记录。评测是长跑,这篇只是其中一个刻度。
先说反例:当时随手存的原始输出,后来成了唯一的证据。方法有缺陷就写进「已知局限」,别装没有。
值得单独说明:把复测排在固定同一组题再跑一遍后面,成了每季度的固定动作。客服响应也算进总分,售后是产品的一部分。
多花了一杯咖啡的时间核对来源,省下了一次翻车。响应速度单独测,别和正确率混在一个分里。分数是死的,你的任务才是活的。
| 评测项 | 怎么测 | 常见失真 | 怎么算数 |
|---|---|---|---|
| 速度 | 计时取中位数 | 只测闲时 | 高峰闲时分开报 |
| 生态 | 接口功能清单核对 | 凭印象打分 | 逐项有截图 |
| 稳定 | 连测七天记录 | 只测一轮 | 波动有区间 |
写到这里。Gemini 3.1 Pro与上代对比多模态对比的判定给完了,复测季度见。
常被问到的
- Gemini 3.1 Pro跑分很高,体感却一般?
- 先怀疑套题:高频出现的题目模型可能见过。换成自己编的新题再测,掉分多少就是真实水平。
- Gemini 3.1 Pro值得为了评测里的一个优点订阅吗?
- 把那个优点换算成你的使用频率:每周都用得上就值,一个月一次就先用免费档。
- Gemini 3.1 Pro与上代对比多模态对比的评测结果可信吗?
- 可信度看三件事:题目是否公开、是否盲测、是否可复测。满足三条的评测才值得引用,缺一条就当参考。
