Python网络超时处理教程_稳定请求设计

15次阅读

python网络请求超时处理需区分connect和read超时,合理设置timeout元组、配置httpAdapter重试策略、分类捕获异常并显式关闭response资源。

Python网络超时处理教程_稳定请求设计

Python网络请求超时处理不是加个timeout参数就完事,关键在于区分连接超时和读取超时,并配合重试、异常分类和资源清理,才能真正提升稳定性。

明确两类超时:connect 和 read

HTTP请求耗时分两个阶段:建立TCP连接(connect),以及接收响应数据(read)。requests库的timeout参数接受元组形式(connect_timeout, read_timeout),例如timeout=(3, 10)表示3秒内必须完成握手,之后最多等10秒收完全部响应体。只写单个数值(如timeout=5)会同时作用于两者,容易误判——比如服务器已连上但响应慢,却因总时间超限被中断。

  • 连接超时宜设短(1–5秒),网络抖动或目标不可达时快速失败
  • 读取超时按业务定(5–30秒),API返回慢、文件下载大时需放宽
  • 对实时性要求高的接口(如支付回调验证),可设更激进的值并主动降级

用 requests.adapters.HTTPAdapter 控制底层行为

默认适配器不自动重试,且dns解析、ssl握手等环节未被timeout覆盖。通过自定义Adapter可统一管控:

  • 设置max_retries启用指数退避重试(推荐urllib3自带的Retry类)
  • 禁用pool_connectionspool_maxsize过大的连接池,避免阻塞线程
  • 指定pool_block=True让请求在连接池满时等待而非抛错

示例:session.mount(“https://”, HTTPAdapter(max_retries=Retry(total=2, backoff_factor=1)))

立即学习Python免费学习笔记(深入)”;

捕获具体异常,避免掩盖真实问题

requests抛出的异常类型不同,处理策略应有区别

  • requests.exceptions.Timeout:明确是超时,可记录并重试
  • requests.exceptions.ConnectionError:DNS失败、拒绝连接、SSL证书错误等,多数不宜立即重试
  • requests.exceptions.RequestException:基类,兜底捕获,但别用它吞掉所有异常
  • 注意json.jsonDecodeError等响应解析异常,不属于网络层,需单独处理

配合 contextlib.suppress 或 try/finally 做资源兜底

即使超时,requests内部可能仍持有socket或response流。显式关闭response可释放连接回池:

  • with requests.get(...) as r:自动调用r.close()
  • 手动调用response.close(),尤其在未读取response.contentresponse.json()
  • 避免在循环中累积未关闭的response,引发“Too many open files”错误

不复杂但容易忽略。

text=ZqhQzanResources