阅读量:102
在Linux系统中,可以使用以下方法去除重复行:
- 使用sort和uniq命令结合使用:
sort file.txt | uniq > newfile.txt
- 使用awk命令:
awk '!seen[$0]++' file.txt > newfile.txt
- 使用sed命令:
sed '$!N; /^\(.*\)\n\1$/!P; D' file.txt > newfile.txt
以上是几种常见的去除重复行的方法,你可以根据具体情况选择适合自己的方法进行操作。