博客
关于我
python去重txt文本_Python实现的txt文件去重功能示例
阅读量:800 次
发布时间:2023-03-07

本文共 798 字,大约阅读时间需要 2 分钟。

本文实例讲述了Python实现的txt文件去重功能,分享给大家供参考。以下是具体实现代码及说明:

# -*- coding:utf-8 -*-
import shutil
readDir = "/Users/Administrator/Desktop/old.txt" # 旧文件
writeDir = "/Users/Administrator/Desktop/new.txt" # 新文件
lines_seen = set()
outfile = open(writeDir, "w")
f = open(readDir, "r")
for line in f:
if line not in lines_seen:
outfile.write(line)
lines_seen.add(line)
outfile.close()

代码说明:

  • 导入shutil模块
  • 定义读取和写入文件的路径
  • 初始化一个空集合lines_seen用于存储已处理的行
  • 打开输出文件并以写模式准备
  • 遍历读取文件内容
  • 检查当前行是否已存在于集合中
  • 如果未存在,将其添加到集合并写入输出文件
  • 最后关闭文件并打印成功信息
  • 示例输入文件old.txt内容如下:

    www.jb51.net
    www.baidu.com
    www.sina.com.cn
    www.jb51.net
    www.google.com
    www.sohu.com
    www.jb51.net
    www.163.com

    运行后,new.txt将只包含唯一的内容:

    www.jb51.net
    www.baidu.com
    www.sina.com.cn
    www.google.com
    www.sohu.com
    www.163.com

    希望以上内容对您有所帮助!如需了解更多Python文件操作技巧,欢迎查阅我们的专题文章。

    转载地址:http://uhofk.baihongyu.com/

    你可能感兴趣的文章
    Python双版本下创建一个Scrapy(西瓜皮)项目
    查看>>
    Python双版本下No module named 'requests'
    查看>>
    python及pycharm2018软件安装教程
    查看>>
    python去重txt文本_Python实现的txt文件去重功能示例
    查看>>
    python去掉列表的逗号,从Python列表项中删除标点符号
    查看>>
    Python卸载所有包
    查看>>
    python单线程下实现多个socket并发
    查看>>
    Python单元测试框架介绍(超详细~)
    查看>>
    Python单元测试框架
    查看>>
    python单元测试之unittest
    查看>>
    Python单元测试unittest实战
    查看>>
    Python单元测试-模拟VS补丁
    查看>>
    python协程实时输出_Python 协程以及事件循环的问题,怎么知道 IO 读取结束了呢?...
    查看>>
    Python十进制&;包提供错误的结果
    查看>>
    Python化身“安全老中医”:一键搞定工控系统漏洞,从零基础到精通,收藏这篇就够了!
    查看>>
    Python加速运行技巧
    查看>>
    python办公自动化基础遍历文件夹
    查看>>
    python办公自动化基础输出文件和文件夹
    查看>>
    python办公自动化基础搜索文件
    查看>>
    python知识:@classmethod和@staticmethod的异同
    查看>>