Python 网络异常处理最佳实践

1次阅读

python网络请求异常处理核心是精准捕获、区分错误类型、分设连接与读取超时、对临时错误指数退避重试、记录完整上下文日志。

Python 网络异常处理最佳实践

Python 网络请求出错很常见,关键不是避免异常,而是让异常可预测、可捕获、可恢复。核心原则是:明确捕获具体异常、区分临时性与永久性错误、设置合理重试与超时、不吞掉异常信息。

只捕获你准备处理的网络异常

requestsurllib 时,不要写 except Exception: —— 这会掩盖编程错误(比如变量名写错)或系统级问题(如内存不足)。应精准捕获网络相关异常:

  • requests.exceptions.Timeout:连接或读取超时,通常可重试
  • requests.exceptions.ConnectionError:DNS失败、拒绝连接、网络断开等,多数属临时故障
  • requests.exceptions.httpError:状态码非 2xx(如 404、503),需按状态码逻辑判断——4xx 一般不重试,5xx 可考虑重试
  • requests.exceptions.RequestException:作为顶层基类,仅在兜底日志记录时使用,不用于业务逻辑分支

为超时设两道防线:连接 + 读取

只设一个总超时(如 timeout=10)不够健壮。网络卡在建连阶段(DNS解析、TCP握手)和卡在响应阶段(服务端慢、大文件传输)性质不同,应分开控制:

  • 连接超时(connect timeout)建议 3–5 秒:DNS 和 TCP 建连本该很快,超时说明下游不可达或防火墙拦截
  • 读取超时(read timeout)视业务而定,通常 10–30 秒:允许服务端有合理处理时间,但防无限等待
  • 示例:requests.get(url, timeout=(3.5, 20)) 表示 3.5 秒内必须连上,连上后最多等 20 秒收完响应

对临时性错误做带退避的重试

ConnectionError 和 Timeout 多数是瞬时问题,重试有效;但盲目重试会加重服务压力。推荐用指数退避(exponential backoff):

立即学习Python免费学习笔记(深入)”;

  • 首次失败后等 1 秒,再失败等 2 秒,再失败等 4 秒……上限建议 10 秒内
  • 限制总重试次数(如最多 3 次),避免雪球效应
  • tenacity 库最省心:@retry(stop=stop_after_attempt(3), wait=wait_exponential(multiplier=1, min=1, max=10))
  • 注意:重试前检查是否已产生副作用(如 POST 已提交订单),幂等性设计比重试更重要

记录足够上下文,方便定位真实原因

捕获异常时,别只打 print(e)。至少记录:

  • 请求 URL、HTTP 方法、关键参数(脱敏后)
  • 异常类型 + 完整 traceback(用 Logging.exception()
  • 如果响应已收到(如 status_code=503),记下状态码和响应头(如 X-RateLimit-Remaining
  • 对调试友好的日志级别:ConnectionError 和 Timeout 用 WARNING,HTTPError 中的 4xx 用 INFO,5xx 用 ERROR
text=ZqhQzanResources