特征工程重在平衡可解释性、稳定性和泛化能力,需紧扣业务逻辑链设计有判别力的指标,避免黑盒构造;数值型特征优先分位数截断与分布变换,类别型特征推荐平滑目标编码而非One-Hot。

特征工程不是“加特征越多越好”,而是让模型能更清晰地看到数据背后的规律。核心在于可解释性、稳定性、泛化能力三者的平衡,而不是堆砌技巧。
明确业务目标,反推特征设计方向
特征是否有效,取决于它是否承载了对目标变量有判别力的信息。比如预测用户是否会流失,单纯统计“登录次数”不如拆解为“近7天连续登录中断次数”+“上月活跃天数衰减率”。关键不是技术多炫,而是能否回答“这个数字为什么会影响结果”。
- 先画出业务逻辑链:用户行为 → 中间状态(如信任度、依赖度)→ 最终结果(如流失/转化)
- 把中间状态翻译成可计算的指标,例如“信任度”可用“客服投诉次数 / 历史订单数”粗略表征
- 拒绝“黑盒式构造”:避免直接用PCA降维后的主成分作为特征,除非你能说明第2主成分对应哪类实际行为模式
数值型特征:重点处理分布偏移与尺度干扰
树模型对数值缩放不敏感,但线性模型、距离类模型(KNN、SVM)、神经网络会受极大影响。更重要的是,真实数据常存在长尾、异常点、跨周期分布漂移——这些比标准化本身更致命。
- 优先用分位数截断(如clip到1%–99%)替代标准差剔除,保留业务合理极端值
- 对明显右偏变量(如订单金额、停留时长),尝试log(x+1)或Box-Cox变换,再做标准化
- 时间序列类特征(如“距上次购买天数”)要加周期性编码:sin(2π×t/365)、cos(2π×t/365),让模型感知“第364天”和“第1天”其实很近
类别型特征:少用One-Hot,多用目标编码+平滑
高基数类别(如商品ID、用户ID)直接One-Hot会导致维度爆炸且稀疏。目标编码(Target Encoding)用均值替代类别,但原始版本极易导致过拟合和数据泄露。
本课程在设计上本着懂方法,重应用的总体思路,突出体现职业教育的技能型、应用性特色,着重培养学生的实践应用技能,力求达到理论方法够用,技术技能过硬的目的。 通过本课程的学习,使学生具备Android平台应用开发相关知识、良好的编程习惯和手机应用软件开发的能力,能胜任基于Android平台的手机软件研发等工作任务。感兴趣的朋友可以过来看看
0 - 必须做平滑:编码值 = (全局均值 × min_samples + 类别内均值 × 类别样本数) / (min_samples + 类别样本数)
- min_samples建议设为5–20,具体看类别分布;训练集编码必须用K折内编码(即每个fold只用其余fold计算该类别的编码值)
- 对低频类别(出现
特征交互与衍生:用业务逻辑约束组合空间
自动交叉(如PolynomialFeatures)在高维下不可控。真正有效的交互特征,往往来自领域知识中的“条件关系”或“比率关系”。
- 优先构造有物理意义的比值:点击率 = 点击数 / 曝光数,复购率 = 复购用户数 / 首购用户数
- 慎用高阶交叉:用户等级 × 商品价格区间 × 地区GDP分档,这类三重交叉容易过拟合,先验证两两组合是否显著提升AUC
- 时间窗口特征要有业务节奏:电商关注“大促前3天加购量”,教育产品关注“试听后24小时内是否完成首课”
基本上就这些。特征工程没有银弹,但有一条铁律:每加一个特征,都要能说清它如何帮助模型区分正负样本。跑通baseline后,花80%时间在特征诊断(看SHAP值、单特征IV、PDP图),比盲目扩特征库管用得多。