Python 文件锁实现方法解析

3次阅读

python无内置跨平台文件锁,可用fcntl(unix)、win32file(windows)或portalocker实现;前者为建议性锁,后者支持强制锁与统一api;需注意锁对象是文件描述符而非路径,且避免锁内耗时操作。

Python 文件锁实现方法解析

Python 中没有内置的跨平台文件锁机制,但可通过标准库或第三方模块实现可靠的文件锁定,核心在于避免多个进程同时写入同一文件导致数据损坏。

使用 fcntl 模块(仅 linux/macos

fcntl 是 Unix 系统提供的底层文件控制接口,支持建议性锁(advisory lock),需注意它不阻塞其他进程的文件操作,依赖所有参与者主动调用 lock/unlock 才有效。

  • 加锁用 fcntl.flock(fd, fcntl.LOCK_EX)(排他锁)或 fcntl.LOCK_SH(共享锁)
  • 释放锁可显式调用 fcntl.flock(fd, fcntl.LOCK_UN),或更简单:with 语句自动关闭文件描述符时释放
  • 非阻塞尝试加锁:传入 fcntl.LOCK_EX | fcntl.LOCK_NB,失败时抛出 IOErrorOSError

使用 win32file(Windows 专用)

Windows 下推荐用 pywin32win32file.LockFileEx 实现强制性锁(mandatory lock),系统会真正阻止其他进程访问被锁区域。

  • 需先用 win32file.CreateFile 获取句柄,设置 win32con.FILE_SHARE_NONE
  • 锁整个文件常用偏移 0 + 长度 0(表示“锁全部”),实际是锁从偏移开始的指定字节数
  • 解锁调用 win32file.UnlockFileEx,或让句柄自动关闭

跨平台方案:portalocker 库

portalocker 封装了 fcntl(Unix)和 win32file(Windows)逻辑,提供统一 API,是最实用的生产级选择。

立即学习Python免费学习笔记(深入)”;

  • 安装:pip install portalocker
  • 基本写入锁示例:
    with open(‘data.txt’, ‘a’) as f:
      portalocker.lock(f, portalocker.LOCK_EX)
      f.write(‘new linen’)
  • 支持超时等待:portalocker.lock(f, portalocker.LOCK_EX | portalocker.LOCK_NB) 配合 try/except 处理冲突

注意点与常见误区

文件锁不是万能同步工具,误用易引发死锁或假安全。

  • 锁的是“打开的文件描述符”,不是文件路径;两个进程打开同一路径的不同 fd,默认不互斥(除非用 flock)
  • 建议性锁(如 flock)无法阻止未调用 lock 的程序读写——它只对也调用 lock 的进程起作用
  • 避免在锁内做耗时操作(如网络请求、复杂计算),否则严重拖慢并发性能
  • 临时文件 + 原子重命名(os.replace)常比文件锁更轻量,适合“写完再上线”的场景
text=ZqhQzanResources