Google 的约翰·穆勒 (John Mueller) 表示,没有基准可以确定网站的最佳抓取预算。
这是对 Reddit 线程搜索引擎优化 (SEO) 的回应,该线程询问 Googlebot 是否应该每天抓取理想的页面百分比。这个问题背后的想法是,如果 Googlebot 定期抓取内容,内容可能会保持新鲜。
这里是完整的问题:
“虽然每个人都在谈论抓取预算,但我没有找到具体的限制或范围。例如,每天应该被抓取GoogleBot 爬取的页面总数(或每天所做的总更改数)的最小百分比应该是多少才能保持内容新鲜?
我知道这可能有很大差异,因为在很大程度上取决于网站 Static/上的可变内容。我只是想了解如何对抓取预算进行基准测试。”
作为回应,Muller 只是说,“没有数字。”
p>
因此,如果您希望增加抓取预算,那确实没有理想的目标。但是,这并不是说优化网站的抓取预算没有任何好处。
什么是抓取预算?
简而言之,抓取预算是 Googlebot 能够抓取(基于网站速度)和想要抓取(基于用户需求)的网址数量。
较高的抓取预算有助于保持热门内容的新鲜度,并有助于防止旧内容过时。
请参阅:Google 的 Gary Illyes 解释 Googlebot 抓取预算
影响抓取预算的因素
提高抓取预算的最佳方法之一是限制您网站上的低附加值网址,例如:
- 分面导航和会话标识符
- 现场重复内容
- 软错误页面
- 被黑页面
- 无限空间和代理
- 低质量和垃圾内容
这些类型的页面可以进行抓取从您网站上更重要的页面窃取活动。
建议网站所有者在 Search Console 中监控抓取错误报告,并将服务器错误降至最低。
另请参阅:优化 SEO 抓取预算的 7 个技巧