机器学习模型中对数转换后预测值还原的实践指南

1次阅读

机器学习模型中对数转换后预测值还原的实践指南

本教程详细介绍了在机器学习任务中,如何将经过对数转换(np.log)的特征在模型预测后,通过指数函数(np.exp)准确还原回其原始数值尺度。文章涵盖了数据预处理中的对数转换、模型训练与预测,以及最关键的逆转换步骤,并强调了在原始尺度上评估模型性能和展示结果的重要性,以确保模型输出的业务可解释性。

1. 引言:对数转换的必要性与逆转换的重要性

在机器学习实践中,对数转换(Log Transformation)是一种常用的数据预处理技术,尤其适用于处理右偏分布、具有大范围值或存在异方差的数据。通过将原始数据转换为其对数形式,可以使数据分布更接近正态分布,从而满足某些模型(如线性回归)的假设,并有助于提高模型的稳定性和预测性能。

然而,模型在对数尺度上进行训练和预测后,其输出结果(预测值)也处于对数尺度。为了使这些预测结果具有实际业务意义和可解释性,我们必须将其逆转换为原始的数值尺度。例如,预测房价、收入或销售额时,最终用户期望看到的是实际金额,而非其对数值。

2. 数据预处理:对数转换的实现

在模型训练之前,我们通常会对目标变量(因变量)或某些独立变量进行对数转换。这有助于缓解数据偏斜问题,并可能改善模型性能。以下代码展示了如何使用 np.log() 对特定特征进行对数转换:

import numpy as np import pandas as pd from sklearn.model_selection import train_test_split from sklearn.ensemble import RandomForestRegressor from sklearn.metrics import mean_absolute_error  # 模拟数据以使代码可运行 data = {     'value_eur': [1000, 50000, 200000, 0, 15000, 3000000, 120000, 800000, 5000, 75000],     'wage_eur': [500, 2000, 10000, 0, 800, 500000, 6000, 30000, 400, 1500],     'feature1': [1, 2, 3, 4, 5, 6, 7, 8, 9, 10],     'feature2': [7, 8, 9, 10, 11, 12, 13, 14, 15, 16] } dtd = pd.DataFrame(data) dtk = dtd.copy() # dtk代表原始数据,用于从原始值进行对数转换  # 对 value_eur 和 wage_eur 进行对数转换 # 确保只对正值进行对数转换,因为 log(0) 是未定义的 mask_value = dtd['value_eur'] > 0 dtd.loc[mask_value, 'value_eur'] = np.log(dtk.loc[mask_value, 'value_eur'])  mask_wage = dtd['wage_eur'] > 0 dtd.loc[mask_wage, 'wage_eur'] = np.log(dtk.loc[mask_wage, 'wage_eur'])  print("对数转换后的数据(部分):") print(dtd.head())

注意: 在进行对数转换时,必须确保原始数值大于零。对于包含零或负值的列,需要进行特殊处理(例如,加一个小的常数,或使用Box-Cox转换)。

3. 模型训练与预测:在对数尺度上操作

在数据经过对数转换后,我们将使用这些转换后的数据来训练机器学习模型。模型的输入 X 和目标变量 y 都将包含对数尺度的值。以下是模型训练和在测试集上进行预测的示例:

# 假设 X 和 y 已经从 dtd 中分离 X = dtd.drop(['value_eur'], axis=1) y = dtd['value_eur']  # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)  # 模拟一个训练好的回归器(例如使用随机森林) regressor = RandomForestRegressor(random_state=42)  regressor.fit(X_train, y_train)  # 在测试集上进行预测,此时 regs 仍然是对数尺度的预测值 regs = regressor.predict(X_test)  # 此时计算的MAE是在对数尺度上的 mae_log_scale = mean_absolute_error(y_test, regs) print(f"n对数尺度上的平均绝对误差 (MAE): {mae_log_scale:.4f}")  # 原始的预测结果DataFrame(对数尺度) results_log_scale = pd.DataFrame({     '预测值 (对数尺度)': regs,     '真实值 (对数尺度)': y_test }) print("n预测结果(对数尺度,部分):") print(results_log_scale.head())

此时,regs 变量中存储的是模型在对数尺度上预测的值,y_test 同样也是对数尺度的真实值。

机器学习模型中对数转换后预测值还原的实践指南

Claude

Anthropic发布的与ChatGPT竞争的聊天机器人

机器学习模型中对数转换后预测值还原的实践指南 1166

查看详情 机器学习模型中对数转换后预测值还原的实践指南

4. 核心操作:将预测值还原到原始尺度

为了将对数尺度的预测值还原到原始尺度,我们需要使用指数函数 np.exp()。它是自然对数 np.log() 的逆运算。

同时,为了在原始尺度上进行评估和展示,我们也需要将真实的测试集目标值 y_test 还原到原始尺度。

# 将预测值从对数尺度还原到原始尺度 y_pred_original = np.exp(regs)  # 将真实值从对数尺度还原到原始尺度 y_test_original = np.exp(y_test)  print("n还原后的预测值(原始尺度,部分):") print(y_pred_original[:5]) print("n还原后的真实值(原始尺度,部分):") print(y_test_original[:5])

5. 评估指标与结果展示:在原始尺度下

在将预测值和真实值都还原到原始尺度后,我们就可以在原始尺度上计算评估指标,并以更直观的方式展示结果。

# 在原始尺度上计算平均绝对误差 (MAE) mae_original_scale = mean_absolute_error(y_test_original, y_pred_original) print(f"n原始尺度上的平均绝对误差 (MAE): {mae_original_scale:.2f}")  # 构建包含原始尺度预测值和真实值的 DataFrame results_original_scale = pd.DataFrame({     '预测值 (原始尺度)': y_pred_original,     '真实值 (原始尺度)': y_test_original })  print("n预测结果(原始尺度,部分):") print(results_original_scale.head())

通过上述步骤,我们成功地将模型的预测结果从对数尺度转换回了原始尺度,并在此尺度上进行了评估和展示。

6. 注意事项与最佳实践

  • 一致性原则: 在评估模型性能时,确保评估指标(如MAE、RMSE)是在统一的尺度上计算的。如果模型在对数尺度上训练,可以在对数尺度上评估其性能;如果需要更直观的业务解释,则应在

text=ZqhQzanResources