首页 › 文章 › 怎么测量品牌在大模型回答里的位置:一套可重复的方法
怎么测量品牌在大模型回答里的位置:一套可重复的方法
测量品牌在大模型回答里的位置,核心是“固定条件、重复提问、统一记录”:同一组问题、同一批模型、同样的记录字段,隔一段时间复测一次。
为什么要用固定方法
大模型的回答会随时间、模型版本,甚至每次提问而变化。偶尔问一次得到的结果,既不能代表常态,也无法和上个月比较。只有在固定条件下重复测量,变化才看得出来。
步骤
- 确定问题集:从客户真实会问的问题出发,覆盖选型、比较、价格、地区等不同意图。问题数量不必一开始就很多,先从十几条开始试跑,看同一问题的回答波动有多大,再决定规模。
- 确定模型:选择你的客户常用的大模型,并且固定下来。我们的保价服务默认监测豆包、千问。
- 每题重复提问:同一个问题在同一个模型上问多次,用结果出现的比例来判断,而不是只看一次。
- 统一记录:每次提问都按下面的字段记录。
- 汇总:按模型和问题统计被提到的比例、出现的位置,以及被引用的来源分布。
- 定期复测:用同一问题集和同一批模型定期复测,改动内容前后各测一次,对比变化。
记录表字段
| 字段 | 含义 |
|---|---|
| 日期 | 提问的日期 |
| 模型 | 提问的大模型;能看到版本时一并记录 |
| 问题 | 问题原文,保持与问题集一致 |
| 是否联网 | 提问时是否开启联网搜索 |
| 是否提到品牌 | 回答里有没有出现你的品牌 |
| 位置 | 品牌在回答中的顺序;没有被提到则留空 |
| 引用来源 | 回答里给出的来源网站或链接 |
| 回答摘要 | 对品牌的描述是否准确 |
容易出错的地方
- 个人账号的历史对话会影响结果:尽量使用干净的环境,或者统一使用同一套账号状态。
- 是否开启联网搜索会改变回答:要记录并保持一致。
- 只看一次结果:偶然被提到或偶然没被提到,都不能说明问题。
- 只看是否被提到:还要看描述是否准确,引用的来源是不是你的官网或其他可信页面。
常见问题
提问多少次才够?
没有统一的标准。原则是次数要多到让个别回答的波动不再影响结论。建议先小规模试跑,观察同一问题的回答差异,再决定次数。
可以自己做吗?
可以,用上面的记录表手工做就行。问题多、模型多、需要定期复测的时候,工作量会很大,这时可以考虑使用监测服务,详见 GEO 监测与优化。
测出来没有被提到怎么办?
先看回答里被提到的是哪些来源,再检查自己的官网和其他平台上,有没有准确、可引用、结论放在开头的内容,然后复测。