Hadoop学习--AP读取HDFS数据--day04

import java.io.ByteArrayOutputStream;

创新互联建站秉承实现全网价值营销的理念，以专业定制企业官网，网站制作、做网站，小程序设计，网页设计制作，手机网站制作，营销型网站帮助传统企业实现“互联网+”转型升级专业定制企业官网,公司注重人才、技术和管理，汇聚了一批优秀的互联网技术人才,对客户都以感恩的心态奉献自己的专业和所长。

import java.io.InputStream;

import java.net.URL;

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.fs.FSDataInputStream;

import org.apache.hadoop.fs.FileSystem;

import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;

import org.apache.hadoop.fs.Path;

import org.apache.hadoop.io.IOUtils;

import org.junit.Test;

/**

 * 测试hadoop文件系统的API

 * @author Administrator

 *

 */

public class TestFileSystemAPI {

/**

* 通过filesystem对象API读取HDFS文件数据

* 

* @author Administrator

* 

* 1.创建configuration对象，注意这里如果涉及到某些参数，需要自己书写指定在src目录下

* 2.利用filesystem的get方法来获取filesystem对象，get方法一共有三种（关键）

* 3.利用filesystem的open方法打开一个数据输入流，方法过程中需要一个path对象的参数传递（关键）

* 4.利用ioutils工具类实现文件的输出

* 

* 

* 

*/

@Test

public void read() throws Exception {

//创建configuration对象，有个默认的加载顺序，先从core-default.xml，再到src目录中的文件,这里

//我们给定了

        Configuration conf = new Configuration();

//通过conf的configuration对象创建了该分布式文件系统fs，默认如果不指定文件的话为本地文件系统

        FileSystem fs = FileSystem.get(conf);

        //定义一个URL的字符串

        String file = "hdfs://hadoop01:9000/user/hadoop/data/hello.txt";

        //通过一个URL的字符串构建一个path对象

        Path path = new Path(file);

        //调用fs的open方法创建fsdata输入流可以去读数据

        FSDataInputStream in = fs.open(path);

//第一个参数是输入流，第二个参数是输出流，第三个参数是缓冲区大小，第四个参数是复制结束后是

//否关闭数据流

       // IOUtils.copyBytes(in, System.out, 1024, true);

        byte[] bys = new byte[1024];

        int len =0;

        while((len=in.read(bys))!=-1){

        System.out.print(new String(bys,0,len));

        }

   }

}

名称栏目：Hadoop学习--AP读取HDFS数据--day04
URL地址：http://cdiso.cn/article/jjcgid.html