后续监测的核心不是每天查一次“site:”命令,而是把收录变化拆成可判断的信号:新页面是否被发现、已收录页面是否被移除、抓取是否被拦截、索引状态是否异常。建议按“先建立基线,再分层监测,最后定位原因”的顺序执行,而不是一发现数字波动就改站点配置。
没有基线,后续任何变化都无法判断是正常波动还是问题。建立基线时,至少记录以下内容:
site: 查询做粗略抽样,只作为辅助观察,不把它当作精确收录量。基线的价值在于对比。假设某栏目有 200 个页面,基线显示 180 个已收录、20 个“已发现但未编入索引”;一周后变成 150 个已收录、50 个未编入索引,这个变化方向就比单纯的收录总数更有诊断意义。这里的具体数字是假设示例,用于说明记录方式,不代表任何真实站点表现。
不同页面的监测频率应当不同,全部页面用同一频率既费时间又抓不住重点。
判断结果时看趋势而不是单点:连续两次检查都显示同一批页面未被收录,才值得深入排查;只出现一次波动,可以先观察下一轮抓取。
这两种情况的处理方向完全不同,需要分开判断。
如果页面在“抓取统计信息”中几乎没有抓取记录,或者 sitemap 提交后长期显示“已发现但未抓取”,问题更可能出在发现环节:内链是否指向该页面、sitemap 是否包含正确地址、robots.txt 是否误屏蔽。注意,提交 sitemap 只是告知地址,并不保证被抓取或收录。
如果页面已被频繁抓取,但仍显示“已抓取但未编入索引”,问题更可能出在内容质量或重复判断上:页面是否与站内其他页面高度相似、是否缺少独立价值、规范标签是否指向了别处。
还有一种情况是页面曾经收录、后来消失。此时先检查是否返回了非 200 状态码、是否被 robots.txt 新增屏蔽、是否被手动操作处理。需要强调:robots.txt 的抓取限制不等于可靠的索引移除,它只阻止抓取,已收录页面仍可能出现在结果中;要移除索引应使用专门的移除工具或让页面返回恰当的状态码。
发现收录异常后,不建议同时修改多项配置,否则无法判断哪项改动起了作用。可以按以下顺序逐项排查:
选择处理方式时要比较代价:修改 robots.txt 影响全站抓取,风险高、生效慢;调整单页内链和规范标签影响范围小,适合先试。若只是个别页面未收录,优先做小范围调整;若整批页面同时掉出索引,再考虑站点级配置问题。
另外,HTTPS 只解决传输加密问题,不代表页面没有安全漏洞,也不构成收录或排名的保证。把 HTTPS 当作收录问题的解释,通常会偏离真正的排查方向。
每轮监测结束后,给每个异常页面标注一个明确结论:是抓取问题、索引问题,还是内容问题。只记录“未收录”而不记录原因分类,下一轮仍然无法决策。下一步可以从基线中挑出 5 到 10 个最重要的页面,按上面的排查顺序逐项核对,确认它们当前处于哪个环节,再决定是调整内链、修正规范标签,还是继续观察下一轮抓取。