找回密码
 注册
搜索
[新手上路]批处理新手入门导读[视频教程]批处理基础视频教程[视频教程]VBS基础视频教程[批处理精品]批处理版照片整理器
[批处理精品]纯批处理备份&还原驱动[批处理精品]CMD命令50条不能说的秘密[在线下载]第三方命令行工具[在线帮助]VBScript / JScript 在线参考
查看: 20283|回复: 7

[文本处理] [已解决]求助批处理如何实现文件查重复行?

[复制链接]
发表于 2023-7-9 22:50:18 | 显示全部楼层 |阅读模式
本帖最后由 BingjianREMIX 于 2023-7-10 16:36 编辑

一个文件中有多行文本,不确定那一行与那一行相同,需要留下一行唯一的,直到文件中没有任何一行相同,这个脚本怎么搞,谢谢

评分

参与人数 1PB +2 收起 理由
Batcher + 2 感谢给帖子标题标注[已解决]字样

查看全部评分

发表于 2023-7-10 08:18:57 | 显示全部楼层
回复 1# BingjianREMIX
要善用搜索。
发表于 2023-7-10 08:37:08 | 显示全部楼层
回复 1# BingjianREMIX
用第3方工具gawk( http://bcn.bathome.net/tool/4.1.0/gawk.exe )比较简单:

  1. gawk "!a[$0]++" a.txt>b.txt
复制代码

评分

参与人数 1技术 +1 收起 理由
Batcher + 1 乐于助人

查看全部评分

发表于 2023-7-10 12:01:53 | 显示全部楼层
 楼主| 发表于 2023-7-10 16:34:58 | 显示全部楼层
感谢大佬们,已经解决了
 楼主| 发表于 2023-7-10 16:39:12 | 显示全部楼层
那大佬们帮我看看,这到底什么问题http://bbs.bathome.net/thread-66756-1-1.html
发表于 2023-7-12 15:17:42 | 显示全部楼层
回复 1# BingjianREMIX


去重-V1.bat
  1. powershell "Get-Content 'Old.txt' | Sort -Unique" > "New.txt"
复制代码
发表于 2023-7-12 15:22:28 | 显示全部楼层
回复 1# BingjianREMIX


去重-V2.bat
  1. powershell "$MyHash = @{}; Get-Content 'Old.txt' | ForEach-Object{if(!$MyHash.ContainsKey($_)){$_; $MyHash.Add($_ , 1)}}" > "New.txt"
复制代码
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|批处理之家 ( 渝ICP备10000708号 )

GMT+8, 2026-3-18 17:07 , Processed in 0.020857 second(s), 9 queries , File On.

Powered by Discuz! X3.5

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表