如何基于自定义迭代序号对多个 DataFrame 进行精准横向拼接

2次阅读

如何基于自定义迭代序号对多个 DataFrame 进行精准横向拼接

本文介绍如何使用 pandas 按指定 iteration 列值(如 ‘1_1’, ‘2_2’)分别从不同 dataframe 中提取对应行,并沿列方向(axis=1)合并为结构对齐的新表,适用于性能测试数据比对等场景。

在性能分析或实验对比中,常需从多个独立采集的 DataFrame 中提取特定迭代(iteration)批次的数据进行横向并排比对——例如将基准组 df1 的 [‘1_1’, ‘2_2’, ‘3_3’, ‘9_9’] 行与对照组 df2 的 [‘1_1’, ‘2_2’, ‘5_5’, ‘6_6’] 行按顺序左右拼接,形成双栏对照表。这种需求无法通过常规 merge 或 concat(…, axis=0) 实现,关键在于保持用户指定的行序,而非默认索引或自然顺序。

核心思路是:先将各 DataFrame 以 ‘iteration’ 列设为索引,再用 reindex() 按目标列表强制重排(缺失值自动填充为 NaN),最后通过 pd.concat(…, axis=1) 横向拼接。该方法确保左右两栏的第 i 行严格对应各自列表中的第 i 个 iteration 值。

以下是完整实现代码:

import pandas as pd  def align_by_iteration(df, target_iterations):     """     根据指定 iteration 值列表对 DataFrame 进行对齐重排     参数:         df: 输入 DataFrame,必须包含 'iteration' 列         target_iterations: 字符串列表,如 ['1_1', '2_2', '5_5']     返回:         重排后的 DataFrame,行顺序与 target_iterations 严格一致     """     return (df.set_index('iteration')               .reindex(target_iterations)               .reset_index())  # 示例数据(已按题设构造) df1 = pd.DataFrame({     'iteration': ['1_1', '2_2', '3_3', '4_4', '5_5', '6_6', '7_7', '8_8', '9_9'],     'IOPS': [46090, 12, 49164, 98311, 196604, 249843, 298974, 348108, 397230],     'Latency': [0.7300, 0.0221, 0.1236, 0.1318, 0.2076, 0.1467, 0.1578, 0.1604, 0.1707] })  df2 = pd.DataFrame({     'iteration': ['1_1', '2_2', '3_3', '4_4', '5_5', '6_6'],     'IOPS': [46074, 12, 49159, 98307, 298976, 397265],     'Latency': [0.6977, 0.0279, 0.1921, 0.2189, 0.2337, 0.2622] })  # 指定每张表需提取的 iteration 序列(长度可不等,但 concat 后取最短长度) df1_iters = ['1_1', '2_2', '3_3', '9_9'] df2_iters = ['1_1', '2_2', '5_5', '6_6']  # 执行对齐 + 横向拼接 df3 = pd.concat([     align_by_iteration(df1, df1_iters),     align_by_iteration(df2, df2_iters) ], axis=1)  print(df3)

输出结果如下(列名自动保留,行严格按输入列表顺序对齐):

iteration    IOPS  Latency iteration    IOPS  Latency 0       1_1   46090   0.7300       1_1   46074   0.6977 1       2_2      12   0.0221       2_2      12   0.0279 2       3_3   49164   0.1236       5_5  298976   0.2337 3       9_9  397230   0.1707       6_6  397265   0.2622

关键注意事项

  • reindex() 会严格遵循目标列表顺序,若某 iteration 在原 DataFrame 中不存在,则对应行全列为 NaN;
  • pd.concat(…, axis=1) 默认按行索引对齐,而 reindex() 后所有 DataFrame 共享相同整数索引(0, 1, 2, …),因此能精准逐行拼接;
  • 若需处理更多 DataFrame,推荐使用 itertools.starmap 批量调用 align_by_iteration,提升可维护性(见扩展示例);
  • 列名重复时(如两表均有 ‘iteration’),concat 会自动保留原始列名,无需额外重命名——这正是本例所需行为。

该方法轻量、可控、无副作用,是实现“按需抽样+横向比对”任务的标准实践方案。

text=ZqhQzanResources