mlflow 默认不记录dvc数据路径,需手动log参数或用dvc get拉取并记录实际路径;dvc stage中调用mlflow run需显式激活环境;模型与dvc版本脱节须强制提交dvc.lock;部署时需同步拉取dvc依赖文件。

MLflow 保存模型时没存 DVC 跟踪的原始数据路径
MLflow 默认只记录模型文件本身和训练参数,不会自动把 data/train.csv 这类由 DVC 管理的数据路径写进模型元信息里。结果就是:模型能加载,但复现训练时找不到原始数据版本。
- 用
mlflow.sklearn.log_model()前,手动把 DVC 数据路径写进artifact_path或额外 log 为params,比如:mlflow.log_param("dvc_data_version", "2a7f1b3") - 更稳妥的做法是,在训练脚本开头用
dvc get拉取数据,并把实际落地路径(如./data-raw/train.csv)传给模型训练逻辑,再把这个路径 log 进 MLflow - 别依赖
os.getcwd()或相对路径——DVC 工作区和 MLflow 运行环境可能不在同一目录层级,硬编码路径会导致跨机器复现失败
DVC stage 中调用 MLflow run 失败:权限或环境隔离问题
DVC 的 dvc repro 默认在干净子 shell 中执行 stage 命令,而 MLflow CLI 启动 mlflow run 时又会新建 python 子进程,容易丢失当前 virtualenv、PYTHONPATH 或 CUDA_VISIBLE_DEVICES 等上下文。
- 确保 stage 的
cmd显式激活环境,例如:source venv/bin/activate && mlflow run . -P data_path=../data-raw - 避免在
mlflow run中用--env-manager=conda——它会覆盖 DVC stage 已有的 Python 环境,改用--env-manager=local并确认基础镜像/venv 一致 - 如果报
ModuleNotFoundError: No module named 'mlflow',说明 DVC stage 没继承父 shell 的 pip 包,直接在dvc.yaml的 stage 里加deps: [venv]不起作用,得靠 wrapper 脚本显式 source
MLflow ui 显示的模型版本和 DVC commit hash 对不上
常见于团队协作中:A 提交了新数据并 dvc push,B 在本地 dvc pull 后训练模型并 mlflow.log_model(),但没同步 git commit —— 导致 MLflow 记录的 git.sha 是旧的,而模型实际依赖的是新 DVC 数据。
- 强制要求训练前执行
git add dvc.lock && git commit -m "update data lock",让 MLflow 自动抓取最新 commit hash - 不要跳过
dvc.lock提交:它是 DVC 数据与代码版本的绑定凭证,缺失就等于切断了可复现链路 - 可在 MLflow callback 里加校验逻辑,比如读取
dvc.lock中train.csv的md5,和当前 workspace 文件 md5 对比,不一致就中断 log
部署时从 MLflow 加载模型,但预测失败:DVC 数据没随模型一起拉取
MLflow 模型注册表只存模型 artifact,不包含它依赖的预处理逻辑所用的 DVC 数据(如 scaler.pkl、label_encoder.json)。上线服务启动后直接调用 model.predict() 就会因缺少这些文件而报错。
立即学习“Python免费学习笔记(深入)”;
- 把所有运行时必需的 DVC-tracked 文件(不只是原始数据)统一放进
models/或assets/目录下,并在dvc.yaml中声明为 stage output - 部署脚本里先
dvc pull -r origin main再启动服务,别只git clone;或者用dvc get按需拉单个文件 - 检查
mlflow.pyfunc.load_model()返回对象的metadata.artifact_path,确认里面是否真包含了 DVC 文件——很多同学误以为 log_model 会递归打包所有 import 的模块依赖,其实不会
真正麻烦的不是怎么配,而是每次数据或代码有微小变更,都得同步更新三个地方:git commit、dvc push、mlflow log_model——漏掉任意一个,复现就断在某个环节。没人会记得检查,所以最好写成 pre-commit hook 或 CI 步骤自动卡住。