JAVA如何实现大文本去除重复行

这期内容当中小编将会给大家带来有关JAVA 如何实现大文本去除重复行，文章内容丰富且以专业的角度为大家分析和叙述，阅读完这篇文章希望大家可以有所收获。

公司主营业务：成都网站设计、成都网站建设、移动网站开发等业务。帮助企业客户真正实现互联网宣传，提高企业的竞争能力。创新互联是一支青春激扬、勤奋敬业、活力青春激扬、勤奋敬业、活力澎湃、和谐高效的团队。公司秉承以“开放、自由、严谨、自律”为核心的企业文化，感谢他们对我们的高要求，感谢他们从不同领域给我们带来的挑战，让我们激情的团队有机会用头脑与智慧不断的给客户带来惊喜。创新互联推出凤阳免费做网站回馈大家。

去重复行，用SQL写很简单，就一句SELECT DISTINCT … FROM。但是文件上没法直接用SQL了，想用SQL还得找个数据库先建表，也很麻烦。如果是小文件，那用java对付一下也不太费劲，大概这样：

       String file ="d:/urls.txt";

       ArrayList result = newArrayList();

       BufferedReader br=null;

       try{

           br = newBufferedReader(newFileReader(file));

           String row = br.readLine();

           while(row!=null){

              if(!result.contains(row)){

                  result.add(row);

              }

              row = br.readLine();

           }

       }finally{

           if(br!=null)

              try{

                  br.close();

              } catch(IOException e) {

              }

       }

但如果是大文件，这代码肯定崩了。这时候得用文件做缓存，或者先排序，总之都非常麻烦。

这种情况，如果有集算器就省事多了，用SPL只要一句话：

file("d:/urls.txt").cursor().groupx(#1).fetch()

甚至还可以直接对着文件写SQL：

$select distinct #1 from d:/urls.txt

上述就是小编为大家分享的JAVA 如何实现大文本去除重复行了，如果刚好有类似的疑惑，不妨参照上述分析进行理解。如果想知道更多相关知识，欢迎关注创新互联行业资讯频道。

分享标题：JAVA如何实现大文本去除重复行
分享地址：http://cdiso.cn/article/jcpopd.html