博客
关于我
python去重txt文本_Python实现的txt文件去重功能示例
阅读量:800 次
发布时间:2023-03-07

本文共 798 字,大约阅读时间需要 2 分钟。

本文实例讲述了Python实现的txt文件去重功能,分享给大家供参考。以下是具体实现代码及说明:

# -*- coding:utf-8 -*-
import shutil
readDir = "/Users/Administrator/Desktop/old.txt" # 旧文件
writeDir = "/Users/Administrator/Desktop/new.txt" # 新文件
lines_seen = set()
outfile = open(writeDir, "w")
f = open(readDir, "r")
for line in f:
if line not in lines_seen:
outfile.write(line)
lines_seen.add(line)
outfile.close()

代码说明:

  • 导入shutil模块
  • 定义读取和写入文件的路径
  • 初始化一个空集合lines_seen用于存储已处理的行
  • 打开输出文件并以写模式准备
  • 遍历读取文件内容
  • 检查当前行是否已存在于集合中
  • 如果未存在,将其添加到集合并写入输出文件
  • 最后关闭文件并打印成功信息
  • 示例输入文件old.txt内容如下:

    www.jb51.net
    www.baidu.com
    www.sina.com.cn
    www.jb51.net
    www.google.com
    www.sohu.com
    www.jb51.net
    www.163.com

    运行后,new.txt将只包含唯一的内容:

    www.jb51.net
    www.baidu.com
    www.sina.com.cn
    www.google.com
    www.sohu.com
    www.163.com

    希望以上内容对您有所帮助!如需了解更多Python文件操作技巧,欢迎查阅我们的专题文章。

    转载地址:http://uhofk.baihongyu.com/

    你可能感兴趣的文章
    python利用pytorch库导出图像分割算子
    查看>>
    python利用pyshark监听网卡来抓包其中pyshark中摸索的一些可用参数
    查看>>
    python利用excel分析过杀漏失
    查看>>
    python判断汉字数目
    查看>>
    python判断文件是空的,如果是空的,就删除
    查看>>
    python判断密码是否正确_python密码判断是否符合要求的方法
    查看>>
    python判断字符串包含中文_Python 判断字符串是否包含中文
    查看>>
    python删除第一行_Python 乱码指北:一行删掉根目录
    查看>>
    Python删除列表元素的三种方法
    查看>>
    python初步学习-python数据类型-集合(set)
    查看>>
    python列表生成字典_Python中将字典转换为列表的方法
    查看>>
    python列表对应元素合并为列表及判断一个列表是几维
    查看>>
    python列表去重复后按照顺序_从包含不可共元素的Python列表中删除重复元素,同时保留顺序?...
    查看>>
    python列表前几个_python之列表
    查看>>
    python列表元组
    查看>>
    Python列表/元组/字典和集合使用
    查看>>
    python列表 行列选择_python_pandas_dataframe_行列选择_切片操作
    查看>>
    python列表
    查看>>
    python列出当前目录、子目录和文件的脚本
    查看>>
    python+flask计算机毕业设计骨科门诊患者档案管理系统(程序+开题+论文)
    查看>>