php分割文本转数组后去重_php分割文本数组去重array_unique【步骤】

1次阅读

调用 array_unique() 后必须用 array_values() 重置键名,否则索引不连续会导致遍历异常、json_encode 输出为对象;还需预处理分隔符、清洗空格大小写、考虑 utf-8 和性能优化

php分割文本转数组后去重_php分割文本数组去重array_unique【步骤】

explode() 分割文本后直接调用 array_unique() 会丢失键名

php 中常见做法是先用 explode() 拆分字符串,再用 array_unique() 去重。但默认行为会保留原始键名,导致数组索引不连续,后续用 foreachfor 遍历时容易出错(比如假设键是 0、1、2 却遇到 0、2、4)。

实际操作中应立即用 array_values() 重置键名:

$text = "apple,banana,apple,orange,banana"; $arr = explode(",", $text); $unique = array_values(array_unique($arr)); // 结果:[0 => "apple", 1 => "banana", 2 => "orange"]
  • 不加 array_values():去重后键可能是 [0 => "apple", 2 => "apple", 4 => "orange"] → 实际只剩两个元素但键跳变
  • 如果后续要 json_encode() 输出,非连续数字键会被转成对象而非数组,引发前端解析异常
  • array_unique() 默认比较方式是松散的(==),对 "1"1 会判为相同;需严格区分类型时传入 SORT_REGULAR

中文逗号、全角空格等分隔符导致 explode() 失效

用户粘贴的文本常混用全角/半角符号,例如 “苹果,香蕉,苹果”(中文逗号)或 "苹果 香蕉 苹果"(全角空格),explode(",", $text) 完全切不开。

推荐先统一预处理再分割:

立即学习PHP免费学习笔记(深入)”;

$text = str_replace([",", " ", " ", "t", "n", "r"], ",", $text); // 替换常见空白与全角标点为英文逗号 $text = preg_replace('/,+/', ',', $text); // 合并多个连续逗号 $arr = array_filter(explode(",", $text), 'strlen'); // 去掉空元素 $unique = array_values(array_unique($arr));
  • array_filter(..., 'strlen')array_filter(..., function($v) { return $v !== ''; }) 更简洁安全,避免误删 "0" 这类假值
  • 若原始分隔符不确定,改用 preg_split() 更鲁棒,例如 preg_split('/[,,s]+/', $text, -1, PREG_SPLIT_NO_EMPTY)
  • 注意 str_replace() 第一个参数是数组时,PHP 7.4+ 支持,低版本需循环替换

array_unique()多维数组或对象无效,纯文本场景也需防隐式类型转换

array_unique() 只支持一维数组,且内部用 == 比较。当文本含前导/尾随空格(如 " apple ""apple")或大小写混合("Apple" vs "apple")时,默认不会去重。

按需选择清洗策略:

// 去空格 + 小写统一处理 $arr = array_map('trim', $arr); $arr = array_map('strtolower', $arr); $unique = array_values(array_unique($arr));
  • 顺序很重要:必须先 trim()array_unique(),否则 "apple ""apple" 被视为不同项
  • 若需保留原始大小写,可先用小写做临时键去重:$unique = array_keys(array_flip(array_map('strtolower', $arr))),但会丢失重复项中的第一个原始值
  • 涉及 UTF-8 中文时,strtolower() 不安全,应改用 mb_strtolower($s, 'UTF-8')

大数据量下 array_unique() 性能明显下降,替代方案要考虑内存与速度平衡

当文本拆分后数组元素超 10 万,array_unique() 时间复杂度接近 O(n²),PHP 进程可能超时或爆内存。

轻量替代思路(不依赖额外扩展):

$seen = []; $result = []; foreach ($arr as $item) {     $key = trim($item); // 或 strtolower(trim($item))     if (!isset($seen[$key])) {         $seen[$key] = true;         $result[] = $item; // 保留原始值     } }
  • 这个循环比 array_unique() 快 3–5 倍(实测 10 万字符串),且内存占用更可控
  • 键名用清洗后的字符串,避免中文或特殊字符导致哈希冲突(PHP 数组键自动转字符串,安全)
  • 如果原始顺序不重要,且允许修改原数组,用 array_flip() + array_flip() 组合更快,但会丢失重复项的原始值

实际去重逻辑远不止调用一个函数——分隔符兼容性、字符串清洗粒度、键名连续性、大数据量下的执行路径,每个环节都可能让结果偏离预期。最稳妥的方式,是把清洗、分割、去重、重索引四步拆开写清楚,而不是在一个表达式里。

text=ZqhQzanResources