如何在Linux下合并多个文件并删除重复行
在Linux合并文件可使用cat或者paste命令，本例中以合并a.txt和b.txt为例。
源文件
- 01
首先输入“cd tmp”到文件目录（本例中为tmp）。
- 02
输入“cat a.txt”输出a.txt文件内容。
- 03
输入“cat b.txt”输出b.txt文件内容。
合并文件
- 01
输入“cat a.txt b.txt > c.txt”合并b.txt文件内容到a.txt的下方并输出到c.txt。并输入“cat c.txt”输出c.txt文件内容。 注意：蓝色框内为原a.txt文件内容，黄色框内为原b.txt文件内容。
- 02
输入“paste a.txt b.txt > d.txt”合并b.txt文件内容到a.txt的右方并输出到d.txt。并输入“cat d.txt”输出d.txt文件内容。 注意：蓝色框内为原a.txt文件内容，黄色框内为原b.txt文件内容。
- 03
输入“cat a.txt b.txt | sort | uniq | > e.txt”合并a.txt和b.txt文件内容并删除重复行，将结果输出到e.txt。并输入“cat e.txt”输出e.txt文件内容。 注意e.txt与上图c.txt文件的区别。
删除重复行并显示
- 01
输入“cp b.txt f.txt”命令复制b.txt，新文件名为f.txt，输入“cat f.txt”命令显示文件内容。
- 02
输入“sort f.txt | uniq”并按回车键确定显示删除重复行（重复多行只显示一行）的结果。
- 03
sort命令仅对显示结果进行删除重复行，并不修改文件，可通过输入“cat f.txt”命令查看文件内容，结果与原文件相同。
- 04
输入“cp b.txt g.txt”命令复制b.txt，新文件名为g.txt，输入“cat g.txt”命令显示文件内容。
- 05
输入“sort g.txt | uniq -u ”并按回车键确定显示删除重复行（不显示重复行）的结果。
- 06
sort命令仅对显示结果进行删除重复行，并不修改文件，可通过输入“cat g.txt”命令查看文件内容，结果与原文件相同。
文件并集&交集&补集
- 01
输入“cat a.txt b.txt | sort | uniq > h.txt”命令将a.txt和b.txt文件合并输出为h.txt（如果两个源文件有重复行则只保留一行），并输入“cat h.txt”查看h.txt文件内容。
- 02
输入“cat a.txt b.txt | sort | uniq -c > h1.txt”命令将a.txt和b.txt文件合并输出为h1.txt（-c 参数显示每行出现的次数），并输入“cat h1.txt”查看h.txt文件内容。
- 03
输入“cat a.txt b.txt | sort | uniq -d > i.txt”命令（-d参数表示仅显示重复行）将a.txt和b.txt的交集输出到i.txt，并输入“cat i.txt”查看文件内容。 注意：此处因b.txt有重复行，故输出文件内容不正确。
- 04
输入“sort b.txt | uniq > b1.txt”命令将b.txt删除重复行（重复行只保留一行）的结果输出为b1.txt文件，并输入“cat b1.txt”查看文件内容。
- 05
输入“cat a.txt b1.txt | sort | uniq -d > j.txt”命令（-d参数表示仅显示重复行）将a.txt和b1.txt的交集输出到j.txt，并输入“cat j.txt”查看文件内容。 注意：此处因b1.txt无重复行，故输出文件内容正确。
- 06
输入“cat a.txt b.txt | sort | uniq -u > k.txt”命令（-u参数表示仅显示文件中不重复行）将删除a.txt和b.txt文件的交集（111和777两行），并将其他内容输出到k.txt， 输入“cat k.txt”查看文件内容。 注意：因b.txt文件内容有重复行（aaa和bbb两行），故输出文件内容不正确
- 07
输入“cat a.txt b1.txt | sort | uniq -u > k1.txt”命令（-u参数表示仅显示文件中不重复行）将删除a.txt和b1.txt文件的交集（111和777两行），并将其他内容输出到k1.txt， 输入“cat k.txt”查看文件内容。 注意：因b1.txt文件内容无重复行，故输出文件内容正确
