如何将带多级列头的 Pandas DataFrame 重塑为规整的长格式结构

8次阅读

如何将带多级列头的 Pandas DataFrame 重塑为规整的长格式结构

本文介绍如何将具有嵌套表头(年份+高低值)的原始 dataframe,通过 multiindex 构建与 stack 操作,高效转换为参数-年份-指标的规整长格式数据结构

在实际数据分析中,我们常遇到以“二维表头”形式存储的宽格式数据:第一行为年份(如 2001, 2002),第二行为子类别(如 low, high),后续行为具体参数(如 foo, bar)及其数值。这种结构虽便于人工阅读,却不利于 pandas 的向量化操作与建模分析。因此,需将其标准化为「参数(parameter)– 年份(year)– 指标(low/high)」的三元长格式。

核心思路是:利用前两行构造列的 MultiIndex → 将参数行设为行索引 → 对列进行 stack 展平 → 重置索引并清理结构。以下是完整实现:

import pandas as pd import numpy as np  # 构造原始数据(注意:第0行是表头文字,第1行是子表头) data = {     0: ['parameter', '', 'foo', 'bar'],     1: [2001, 'low', 1.0, np.nan],     2: [2001, 'high', 2.0, np.nan],     3: [2002, 'low', 7.0, 12.0],     4: [2002, 'high', 8.0, 13.0], } df = pd.DataFrame(data)  # 步骤1:用第0行(年份)和第1行(low/high)构建列的MultiIndex # 注意跳过第0列(即'parameter'列),只处理数值列(索引1起) years = df.iloc[0, 1:]   # → [2001, 2001, 2002, 2002] levels = df.iloc[1, 1:]  # → ['low', 'high', 'low', 'high']  columns = pd.MultiIndex.from_arrays([years, levels], names=('year', 'level'))  # 步骤2:取参数数据行(第2行起),设第0列为行索引(即'foo', 'bar') df_data = df.iloc[2:].set_index(0)  # 行索引变为 parameter 名称  # 步骤3:将列替换为新 MultiIndex,并重命名索引以明确语义 df_data = df_data.set_axis(columns, axis=1).rename_axis('parameter')  # 步骤4:stack 第一级(year),自动展开为长格式;reset_index 得到规整DataFrame result = df_data.stack(level=0).reset_index(name='value')  # 可选:将 'level_1'(即原'low'/'high')拆分为独立列(若需宽格式指标列) wide_result = result.pivot(index=['parameter', 'year'], columns='level_1', values='value').reset_index() wide_result.columns.name = None  # 清除列名层级 wide_result = wide_result.rename(columns={'level_1': 'metric'})  # 实际无需此步,因已pivot  # 最终输出(等价于答案中的简洁版) out = df_data.stack(0).reset_index(name='value') out.columns = ['parameter', 'year', 'level', 'value']  # 显式命名 final = out.pivot(index=['parameter', 'year'], columns='level', values='value').reset_index() final.columns.name = None

运行后得到目标结构:

parameter  year  high  low 0       bar  2002  13.0 12.0 1       foo  2001   2.0  1.0 2       foo  2002   8.0  7.0

⚠️ 注意事项

  • df.iloc[0, 1:] 和 df.iloc[1, 1:] 必须严格对齐——确保年份与 level 列一一对应;
  • 若原始数据存在缺失列(如某年缺少 high),MultiIndex.from_arrays 仍可构建,但 stack 后会生成 NaN,符合预期;
  • stack(0) 默认叠最外层列(即 year),若有多级需显式指定 level 参数;
  • 最终 .reset_index() 前的索引为 (parameter, year),是理想的分组键,便于后续 groupby 或 pivot_table 操作。

该方法避免了手动循环或复杂 melt + pivot 组合,兼具可读性与执行效率,是处理嵌套表头类 excel 报表的推荐范式。

text=ZqhQzanResources