Python requests.get 响应编码不一致问题的根源与解决方案

10次阅读

Python requests.get 响应编码不一致问题的根源与解决方案

python requests.get 响应编码不一致问题的根源与解决方案:`requests.get()` 返回乱码或编码不一致,常因服务器启用 brotli(br)压缩但 `requests` 默认未解压所致;需安装 `brotli` 或 `brotlicffi` 并确保 `accept-encoding` 头兼容,才能正确解码 utf-8 内容。

在使用 requests 库抓取网页时,你可能会遇到 response.text 输出忽而可读、忽而显示乱码(如大量符号或非 ASCII 字符)的现象,即使 response.encoding 显示为 ‘utf-8’,内容仍不可用。这并非字符编码声明错误,而是响应体实际被压缩但未被正确解压导致的典型问题。

关键线索藏在响应头中:

print(page.headers.get('Content-Encoding'))  # 输出: 'br'

‘br’ 表示服务器使用了 Brotli 压缩算法——一种比 Gzip 更高效、现代的压缩方式。而 requests(截至 v2.31.0+)默认不支持 Brotli 解压,除非显式安装兼容解压库。

✅ 正确做法如下:

立即学习Python免费学习笔记(深入)”;

  1. 安装 Brotli 支持(任选其一):

    pip install brotli # 或(推荐用于 C 扩展性能) pip install brotlicffi
  2. 设置合理的 Accept-Encoding 请求头(显式声明支持 gzip,并避免强制要求 br,因 requests 自动协商时若未装 Brotli 库,可能仍收到 br 响应却无法处理):

    import requests  HEADERS = {     'User-Agent': 'Mozilla/5.0 (macintosh; Intel Mac OS X 10_15_7) appleWebKit/537.36 (Khtml, like Gecko) Chrome/121.0.0.0 safari/537.36',     'Accept-Language': 'en-US,en;q=0.9',     'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',     'Accept-Encoding': 'gzip, deflate',  # ✅ 明确排除 'br',避免不可控压缩 }  page = requests.get('https://www.powerball.com/', headers=HEADERS) print("Encoding:", page.encoding)  # 通常自动推断为 utf-8 print("Text preview:", page.text[:200])

⚠️ 注意事项:

  • 即使安装了 brotli,若 Accept-Encoding 中包含 ‘br’,requests 会尝试自动解压;但某些旧版本或环境可能存在兼容性问题,稳妥起见建议主动排除 ‘br’
  • 不要依赖 page.text 的原始输出判断编码是否正确——应优先检查 page.content(原始字节)是否能用 page.encoding 正确解码:
    try:     decoded = page.content.decode(page.encoding or 'utf-8')     print("Decoded successfully") except UnicodeDecodeError:     print("Decoding failed — likely compression or encoding mismatch")
  • 若仍出现异常,可强制指定编码(仅限确认页面真实编码为 UTF-8 时):
    page.encoding = 'utf-8' print(page.text)

总结:requests 的编码“不稳定”表象背后,本质是传输层压缩未被识别或解压失败。解决核心在于——安装 Brotli 支持库 + 合理约束 Accept-Encoding 头。二者结合,即可稳定获取正确解码的 UTF-8 文本,彻底告别随机乱码。

text=ZqhQzanResources