Python实现的删除重复文件或图片功能示例【去重】-创新互联

本文实例讲述了Python实现的删除重复文件或图片功能。分享给大家供大家参考，具体如下：

站在用户的角度思考问题，与客户深入沟通，找到元江县网站设计与元江县网站推广的解决方案，凭借多年的经验，让设计与互联网技术结合，创造个性化、用户体验好的作品，建站类型包括：网站设计、做网站、企业官网、英文网站、手机端网站、网站推广、域名注册、网络空间、企业邮箱。业务覆盖元江县地区。

通过python爬虫或其他方式保存的图片文件通常包含一些重复的图片或文件，

通过下面的python代码可以将重复的文件删除以达到去重的目的。其中，文件目录结构如下图：

# /usr/bin/env python
# -*- coding:utf-8 -*-
# 运行的代码文件要放到删除重复的文件或图片所包含的目录中
import os
import hashlib
def filecount():
  filecount = int(os.popen('dir /B |find /V /C ""').read())
  return (filecount)
def md5sum(filename):
  f = open(filename, 'rb')
  md5 = hashlib.md5()
  while True:
    fb = f.read(8096)
    if not fb:
      break
    md5.update(fb)
  f.close()
  return (md5.hexdigest())
def delfile():
  all_md5 = {}
  filedir = os.walk(os.getcwd())
  for i in filedir:
    for tlie in i[2]:
      if md5sum(tlie) in all_md5.values():
        os.remove(tlie)
      else:
        all_md5[tlie] = md5sum(tlie)
if __name__ == '__main__':
  oldf = filecount()
  print('去重前有', oldf, '个文件\n\n\n请稍等正在删除重复文件...')
  delfile()
  print('\n\n去重后剩', filecount(), '个文件')
  print('\n\n一共删除了', oldf - filecount(), '个文件\n\n')

本文标题：Python实现的删除重复文件或图片功能示例【去重】-创新互联
URL标题：http://cdiso.cn/article/dpjcoj.html