
本文介绍如何使用 ast.literal_eval 安全解析 dataframe 中形如 {key: [v1, v2, v3, v4]} 的字符串列,并将其高效拆分为独立的 id 列与数值列(t1–t4),适用于日志解析、api 响应预处理等场景。
在实际数据处理中,我们常遇到将嵌套结构以字符串形式存储于单列的情况(例如数据库导出或 API 返回的 jsON-like 字符串)。直接用 eval() 解析存在严重安全风险,而 ast.literal_eval() 是 python 标准库提供的安全替代方案——它仅允许解析基本字面量(字典、列表、数字、字符串、布尔值和 None),拒绝执行任意代码,因此推荐在生产环境中使用。
以下是一个完整、可复现的解决方案:
import pandas as pd from ast import literal_eval # 示例原始数据 df = pd.DataFrame({ "column_A": [ "{827056812014862 : [0.05, 0.0608, 0.476464, 0.53535]}", "{263746262748835 : [0.08, 0.0333, 0.8263, 0.9463]}", "{63673738736362 : [0.05, 0.0926, 0.8694, 0.9903]}", "{73737681201484 : [0.08, 0.0425, 0.1948, 0.3958]}" ] }) # 步骤 1:安全解析字符串为字典 # 注意:原始字符串中 key 无引号,但 literal_eval 支持整数 key(只要语法合法) parsed_dicts = df["column_A"].apply(literal_eval) # 步骤 2:展开为扁平化记录列表 records = [] for d in parsed_dicts: for key, values in d.items(): # 确保 values 是长度为 4 的列表(可根据实际调整) if not isinstance(values, (list, tuple)) or len(values) != 4: raise ValueError(f"Unexpected value format for key {key}: {values}") records.append({ "id": key, "t1": values[0], "t2": values[1], "t3": values[2], "t4": values[3] }) # 步骤 3:构建新 DataFrame result = pd.DataFrame(records) print(result)
✅ 输出结果完全匹配预期:
id t1 t2 t3 t4 0 827056812014862 0.05 0.0608 0.476464 0.53535 1 263746262748835 0.08 0.0333 0.826300 0.94630 2 63673738736362 0.05 0.0926 0.869400 0.99030 3 73737681201484 0.08 0.0425 0.194800 0.39580
? 关键注意事项:
- 若原始字符串中 key 是字符串(如 {“827056812014862”: […]}),literal_eval 同样兼容;但若 key 缺少引号且含非法字符(如空格、小数点),则会报错——此时需先清洗字符串。
- 对于大规模数据,上述循环方式清晰易懂;若追求性能,可用 pd.json_normalize() 配合预处理,但前提是字符串能统一转为标准 json 格式(需补全引号等)。
- 建议始终添加类型与长度校验(如示例中的 isinstance 和 len(values) != 4),避免因脏数据导致静默错误或列错位。
该方法兼顾安全性、可读性与健壮性,是处理“伪字典字符串列”的工业级实践方案。