Python 模型版本管理的 DVC + MLflow 组合

1次阅读

mlflow 默认不记录dvc数据路径,需手动log参数或用dvc get拉取并记录实际路径;dvc stage中调用mlflow run需显式激活环境;模型与dvc版本脱节须强制提交dvc.lock;部署时需同步拉取dvc依赖文件。

Python 模型版本管理的 DVC + MLflow 组合

MLflow 保存模型时没存 DVC 跟踪的原始数据路径

MLflow 默认只记录模型文件本身和训练参数,不会自动把 data/train.csv 这类由 DVC 管理的数据路径写进模型元信息里。结果就是:模型能加载,但复现训练时找不到原始数据版本。

  • mlflow.sklearn.log_model() 前,手动把 DVC 数据路径写进 artifact_path 或额外 log 为 params,比如:mlflow.log_param("dvc_data_version", "2a7f1b3")
  • 更稳妥的做法是,在训练脚本开头用 dvc get 拉取数据,并把实际落地路径(如 ./data-raw/train.csv)传给模型训练逻辑,再把这个路径 log 进 MLflow
  • 别依赖 os.getcwd() 或相对路径——DVC 工作区和 MLflow 运行环境可能不在同一目录层级,硬编码路径会导致跨机器复现失败

DVC stage 中调用 MLflow run 失败:权限或环境隔离问题

DVC 的 dvc repro 默认在干净子 shell 中执行 stage 命令,而 MLflow CLI 启动 mlflow run 时又会新建 python 子进程,容易丢失当前 virtualenvPYTHONPATH 或 CUDA_VISIBLE_DEVICES 等上下文。

  • 确保 stage 的 cmd 显式激活环境,例如:source venv/bin/activate && mlflow run . -P data_path=../data-raw
  • 避免在 mlflow run 中用 --env-manager=conda——它会覆盖 DVC stage 已有的 Python 环境,改用 --env-manager=local 并确认基础镜像/venv 一致
  • 如果报 ModuleNotFoundError: No module named 'mlflow',说明 DVC stage 没继承父 shell 的 pip 包,直接在 dvc.yaml 的 stage 里加 deps: [venv] 不起作用,得靠 wrapper 脚本显式 source

MLflow ui 显示的模型版本和 DVC commit hash 对不上

常见于团队协作中:A 提交了新数据并 dvc push,B 在本地 dvc pull 后训练模型并 mlflow.log_model(),但没同步 git commit —— 导致 MLflow 记录的 git.sha 是旧的,而模型实际依赖的是新 DVC 数据。

  • 强制要求训练前执行 git add dvc.lock && git commit -m "update data lock",让 MLflow 自动抓取最新 commit hash
  • 不要跳过 dvc.lock 提交:它是 DVC 数据与代码版本的绑定凭证,缺失就等于切断了可复现链路
  • 可在 MLflow callback 里加校验逻辑,比如读取 dvc.locktrain.csvmd5,和当前 workspace 文件 md5 对比,不一致就中断 log

部署时从 MLflow 加载模型,但预测失败:DVC 数据没随模型一起拉取

MLflow 模型注册表只存模型 artifact,不包含它依赖的预处理逻辑所用的 DVC 数据(如 scaler.pkl、label_encoder.json)。上线服务启动后直接调用 model.predict() 就会因缺少这些文件而报错。

立即学习Python免费学习笔记(深入)”;

  • 把所有运行时必需的 DVC-tracked 文件(不只是原始数据)统一放进 models/assets/ 目录下,并在 dvc.yaml 中声明为 stage output
  • 部署脚本里先 dvc pull -r origin main 再启动服务,别只 git clone;或者用 dvc get 按需拉单个文件
  • 检查 mlflow.pyfunc.load_model() 返回对象metadata.artifact_path,确认里面是否真包含了 DVC 文件——很多同学误以为 log_model 会递归打包所有 import 的模块依赖,其实不会

真正麻烦的不是怎么配,而是每次数据或代码有微小变更,都得同步更新三个地方:git commit、dvc push、mlflow log_model——漏掉任意一个,复现就断在某个环节。没人会记得检查,所以最好写成 pre-commit hook 或 CI 步骤自动卡住。

text=ZqhQzanResources