TTFB 与抓取预算:服务器响应速度如何影响收录速度
Google 官方把站点响应稳定性归入 crawl capacity limit。用三次真实 TTFB 采样说明为什么静态化、CDN 与 304 会直接影响爬虫能抓多少页。
一、官方框架
抓取预算由两部分组成:
A site's crawl budget is determined by two main elements: crawl capacity limit and crawl demand.
- crawl capacity limit(能抓多少):为避免压垮服务器而计算的连接资源上限;
- crawl demand(想抓多少):流行度、更新频率、页面质量、URL 清单质量。
响应变慢、出现 5xx 或 429,会让 capacity limit 下降;延迟和 TTFB 稳定改善,上限会上升。
二、三次真实采样
对同一个高权重落地页连续请求三次(Googlebot UA):
| 次数 | DNS | 连接 | TTFB | 总耗时 |
|---|---|---|---|---|
| 1 | 0.0002s | 0.0033s | 0.242s | 0.243s |
| 2 | 0.0002s | 0.0029s | 0.270s | 0.271s |
| 3 | 0.0001s | 0.0023s | 0.359s | 0.359s |
响应体 8.4 KB,纯静态 HTML,无 JS、无外部资源依赖。这意味着 Googlebot 每次抓取只消耗一次轻量请求,就能拿到全部正文。
三、为什么静态化是收录速度的乘数
JS 渲染的页面要先抓 HTML,再进渲染队列、执行脚本、拿数据、生成 DOM;纯 SSR 页面抓到即解析。两者的差别不是「快一点」,而是同一个抓取窗口里能处理多少 URL。
实践要点:
- 正文渲染结果缓存入库(Markdown 转 HTML 只做一次);
- 页面不加载任何外部字体、统计脚本、广告 SDK;
- 支持
304 Not Modified节省带宽(官方明确建议); - 用 CDN 扛住突发抓取,避免回源抖动;
- 稳定比峰值重要:偶尔 100ms、偶尔 2s,比稳定 300ms 更伤。
四、别忽略的另一侧
速度只解决「能抓多少」。如果站点流行度低、URL 清单里全是重复和 soft 404,crawl demand 依然低,Google 就算有容量也不会常来。官方原话:
Even if the crawl capacity limit isn't reached, if crawl demand is low, Google will crawl your site less.
所以要同时做两件事:把服务器做快,以及把 URL 清单做干净、把内容做值得回访。
常见问题
TTFB 多少算合格
建议控制在 300ms 以内,关键是稳定而不是偶尔快。
静态化对收录有帮助吗
有,减少渲染与数据库开销,让单位时间内能抓更多页。
429 会怎样
官方明确会降低 crawl capacity limit,导致抓取变少。
数据来源与原创说明
TTFB 数据为 2026-11-14 本机 curl 三次采样;理论依据为 Google Search Central 抓取预算文档。