首页 › 文章 › 怎么测量品牌在大模型回答里的位置:一套可重复的方法

怎么测量品牌在大模型回答里的位置:一套可重复的方法

发布于 · 更新于

测量品牌在大模型回答里的位置,核心是“固定条件、重复提问、统一记录”:同一组问题、同一批模型、同样的记录字段,隔一段时间复测一次。

为什么要用固定方法

大模型的回答会随时间、模型版本,甚至每次提问而变化。偶尔问一次得到的结果,既不能代表常态,也无法和上个月比较。只有在固定条件下重复测量,变化才看得出来。

步骤

  1. 确定问题集:从客户真实会问的问题出发,覆盖选型、比较、价格、地区等不同意图。问题数量不必一开始就很多,先从十几条开始试跑,看同一问题的回答波动有多大,再决定规模。
  2. 确定模型:选择你的客户常用的大模型,并且固定下来。我们的保价服务默认监测豆包、千问。
  3. 每题重复提问:同一个问题在同一个模型上问多次,用结果出现的比例来判断,而不是只看一次。
  4. 统一记录:每次提问都按下面的字段记录。
  5. 汇总:按模型和问题统计被提到的比例、出现的位置,以及被引用的来源分布。
  6. 定期复测:用同一问题集和同一批模型定期复测,改动内容前后各测一次,对比变化。

记录表字段

字段含义
日期提问的日期
模型提问的大模型;能看到版本时一并记录
问题问题原文,保持与问题集一致
是否联网提问时是否开启联网搜索
是否提到品牌回答里有没有出现你的品牌
位置品牌在回答中的顺序;没有被提到则留空
引用来源回答里给出的来源网站或链接
回答摘要对品牌的描述是否准确

容易出错的地方

常见问题

提问多少次才够?

没有统一的标准。原则是次数要多到让个别回答的波动不再影响结论。建议先小规模试跑,观察同一问题的回答差异,再决定次数。

可以自己做吗?

可以,用上面的记录表手工做就行。问题多、模型多、需要定期复测的时候,工作量会很大,这时可以考虑使用监测服务,详见 GEO 监测与优化。

测出来没有被提到怎么办?

先看回答里被提到的是哪些来源,再检查自己的官网和其他平台上,有没有准确、可引用、结论放在开头的内容,然后复测。

相关阅读

联系我们

咨询热线:400-909-8009 手机:13558671092

成都亿格可思数据有限公司