AI 训练爬虫抓取量统计与带宽治理:robots.txt、UA 限速与访问日志核对 2026年11月5日 作者 @hosteasecn 从访问日志统计 AI 训练爬虫的抓取量与流量占比,再用 robots.txt 声明、Nginx UA 限速和缓存策略把带宽压回可控范围,附可执行命令与核对指标。