爬虫模拟抓取工具,可以模拟百度蜘蛛、Googlebot、搜狗蜘蛛、360蜘蛛、Bingbot等常见搜索引擎的网页抓取行为。利用该工具抓取指定的网页,可以查看网页的响应头信息以及源文件内容。
查看常用User-Agent
常见的HTTP状态码
200 - 服务器成功返回网页
404 - 请求的网页不存在
503 - 服务不可用
301 redirect: 301 代表永久性转移(Permanently Moved)
302 redirect: 302 代表暂时性转移(Temporarily Moved )。
查看所有HTTP状态码解释