PHP结合redis实现大文件去重的方法-创新互联

这篇文章将为大家详细讲解有关PHP结合redis实现大文件去重的方法，小编觉得挺实用的，因此分享给大家做个参考，希望大家阅读完这篇文章后可以有所收获。

在红花岗等地区，都构建了全面的区域性战略布局，加强发展的系统性、市场前瞻性、产品创新能力，以专注、极致的服务理念，为客户提供做网站、网站建设网站设计制作专业公司,公司网站建设,企业网站建设,品牌网站制作,成都营销网站建设,成都外贸网站建设,红花岗网站建设费用合理。

1.对一个大文件比如我的文件为

-rw-r--r-- 1 ubuntu ubuntu 9.1G Mar 1 17:53 2018-12-awk-uniq.txt

2.使用split命令切割成10个小文件

split -b 1000m 2018-12-awk-uniq.txt -b 按照字节切割 , 支持单位m和k

PHP结合redis实现大文件去重的方法

3.使用10个php进程读取文件 , 插入redis的有序集合结构中 , 重复的是插不进去的 ,因此可以起到去重的作用

connect('127.0.0.1', 6379);
$handle = fopen("./{$file}", 'rb');
while (feof($handle)===false) {
        $line=fgets($handle);
        $email=str_replace("\n","",$line);
        $redis->zAdd('emails', 1, $email);
}

PHP结合redis实现大文件去重的方法

4. redis中查看获取的数据

zcard emails 获取元素个数

取一定范围的元素 , 比如从100000开始到 100100结束

zrange emails 100000 100100 WITHSCORES

关于PHP结合redis实现大文件去重的方法就分享到这里了，希望以上内容可以对大家有一定的帮助，可以学到更多知识。如果觉得文章不错，可以把它分享出去让更多的人看到。

本文标题：PHP结合redis实现大文件去重的方法-创新互联
标题来源：http://cdiso.cn/article/jocgd.html

PHP结合redis实现大文件去重的方法-创新互联

其他资讯