HTTP响应头用于防爬虫的详细说明及操作示例1. User-Agent 验证作用:检查请求头中的 User-Agent 是否合法,拒绝非法爬虫。示例(Nginx 配置):2. Referer 检查作用:限制请求来源,防止直接访问或跨站爬取。示例(Nginx 配置):3. X-Requested-With 识别 AJAX 请求作用:确保请求来自前端 AJAX(如 XMLHttpRequest)。示例