Polars 中按列名范围选择列的高效方法

5次阅读

Polars 中按列名范围选择列的高效方法

Polars 支持类似 pandas df.loc[:, ‘start’:’end’] 的列范围切片语法,既可直接用于 eager 模式下的 df[:, ‘a’:’b’],也可通过 select() 配合列索引动态提取,无需手动枚举大量列名。

polars 支持类似 pandas `df.loc[:, ‘start’:’end’]` 的列范围切片语法,既可直接用于 eager 模式下的 `df[:, ‘a’:’b’]`,也可通过 `select()` 配合列索引动态提取,无需手动枚举大量列名。

在数据处理中,常需从宽表(wide-format DataFrame)中提取连续命名的列子集(如 ‘first_name’ 到 ‘last_name’),而显式列出所有列名不仅冗长,还易出错、难维护。Polars 自 0.20.0 版本起原生支持基于列名的切片语法column name slicing),其行为与 Pandas 的 df.loc[:, ‘start’:’end’] 高度一致——即按 df.columns 中的顺序位置进行闭区间切片,而非字典序。

✅ 原生切片:简洁高效的 eager 操作

最直接的方式是使用方括号索引(eager API):

import polars as pl  df = pl.DataFrame({     'date':        ['2000-01-01', '2000-01-02'],     'first_name':  ['Alice',      'Bob'       ],     'middle_name': [None,         'Edward'    ],     'last_name':   ['Smith',      'Jones'     ],     'standing':    ['good',       'bad'], })  # ✅ 直接切片:包含首尾列,按列定义顺序(非字母序!) result = df[:, 'first_name':'last_name'] print(result)

输出:

shape: (2, 3) ┌────────────┬─────────────┬───────────┐ │ first_name ┆ middle_name ┆ last_name │ │ ---        ┆ ---         ┆ ---       │ │ str        ┆ str         ┆ str       │ ╞════════════╪═════════════╪═══════════╡ │ Alice      ┆ null        ┆ Smith     │ │ Bob        ┆ Edward      ┆ Jones     │ └────────────┴─────────────┴───────────┘

⚠️ 注意:此语法要求 ‘first_name’ 和 ‘last_name’ 均存在于 df.columns 中,且 ‘first_name’ 必须出现在 ‘last_name’ 之前(即索引更小)。若列名不存在或顺序颠倒,将抛出 ValueError。

✅ 动态选择:在 lazy / select 场景中复用逻辑

当需在 select()、with_columns() 或 lazy 查询中复用列范围逻辑时,可封装为可重用函数:

def col_range(df: pl.DataFrame, start: str, end: str) -> list[pl.Expr]:     """返回从 start 到 end(含)的列表达式列表"""     cols = df.columns     try:         start_idx = cols.index(start)         end_idx = cols.index(end)         if start_idx > end_idx:             raise ValueError(f"'{start}' appears after '{end}' in column order")         return [pl.col(c) for c in cols[start_idx : end_idx + 1]]     except ValueError as e:         raise ValueError(f"Column range selection failed: {e}")  # 在 select 中使用 result = df.select(col_range(df, 'first_name', 'last_name'))

该函数具备错误检查能力,明确提示列缺失或顺序异常,增强生产代码鲁棒性。

? 关键原理与注意事项

  • 列顺序决定切片结果:Polars 严格依据 df.columns 返回的列表顺序(即 DataFrame 创建/重排后的物理顺序),不是按 ASCII 字典序。例如 [‘z’, ‘a’, ‘b’] 中 ‘a’:’b’ 会返回 [‘a’,’b’],但 ‘z’:’b’ 将报错(因 ‘z’ 索引为 0,’b’ 为 2,0 0 会触发异常)。
  • 仅限 eager 模式原生支持:df[:, ‘a’:’b’] 语法目前仅在 eager DataFrame 上可用;lazy DataFrame 需通过 select(col_range(…)) 实现等效逻辑。
  • 不支持通配符或正则:如需模糊匹配(如 ‘col_*’),应改用 pl.col(r’^col_.*$’) 正则选择,再结合 sort_by 或索引定位边界。

掌握列名切片能力,能显著提升 Polars 宽表处理的开发效率与代码可读性——告别冗长列名列表,让范围选择回归直观与可靠。

text=ZqhQzanResources