centos6.5安装hadoop集群

环境准备:4台机器

专注于为中小企业提供成都网站制作、网站建设服务,电脑端+手机端+微信端的三站合一,更高效的管理,为中小企业宁明免费做网站提供优质的服务。我们立足成都,凝聚了一批互联网行业人才,有力地推动了上千家企业的稳健成长,帮助中小企业通过网站建设实现规模扩充和转变。

192.168.217.174   node1 -----namenode

192.168.217.175   node2 -----secondary namenode

192.168.217.176   node3 -----datanode

192.168.217.177   node4 -----datanode

1. 4台机器免密码登录

1.1-先在node1机器上做免密码

在每天机器vim /etc/hosts中互相添加对方的ip和机器名

192.168.217.174   node1

192.168.217.175   node2

192.168.217.176   node3

192.168.217.177   node4

#ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa     1. 注:生成密钥

#cat ~/.ssh/id_dsa.pub >>~/.ssh/authorized_keys  2.注:密钥写入认证机制

1.2-其他3台机器做免密码

把在node1机器生成的公钥拷贝到其他3台机器,最后在放入每天机器的认证机制

#scp ./id_dsa.pub root@node(2,3,4):/opt/            #在node1上操作

#ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa          #3台机器都执行这条命令

#cat/opt/id_dsa.pub >> ~/.ssh/authorized_keys   #3台机器都执行这条命令

拷贝遇到问题:

bash: scp:command not found       #yum install openssh-clients    4台都装

2.开始安装

2.1-安装JDK:------------4台都安装

#上传jdk-7u79-linux-x64.rpm到/home目录

#rpm –ivh jdk-7u79-linux-x64.rpm

#cd /home/hadoop-2.5.1

# vim~/.bash_profile                 添加环境变量

export PATH

export JAVA_HOME=/usr/java/jdk1.7.0_79

exportPATH=$PATH:$JAVA_HOME/bin

exportHADOOP_HOME=/home/hadoop-2.5.1

exportPATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

# source  ~/.bash_profile

centos6.5安装hadoop集群

2.2-安装hadoop

#上传hadoop-2.5.1_x64.tar.gz到/home目录          【在node1操作】

#tar zxvfhadoop-2.5.1_x64.tar.gz

#vim /home/hadoop-2.5.1/etc/hadoop/hadoop-env.sh      #namenode主机名

exportJAVA_HOME=/usr/java/jdk1.7.0_79/  (添加)

#vim /home/hadoop-2.5.1/etc/hadoop/core-site.xml

  

        fs.defaultFS

        hdfs://node1:9000      # namenode数据上传的主机及端口

  

        hadoop.tmp.dir 

       /opt/hadoop-2.5        # 保存的路径

#vim /home/hadoop-2.5.1/etc/hadoop/hdfs-site.xml  

    dfs.namenode.secondary.http-address   

    node2:50090             #secondary namenode       

        dfs.namenode.secondary.https-address

        node2:50091

#vim /home/hadoop-2.5.1/etc/hadoop/slaves    # 配置datanode主机名

node2

node3

node4

#vim masters     # 创建配置secondary namenode主机名

node2

#rm -rf  hadoop-2.5.1/share/doc/       删除这个目录方便拷贝给其他机器

2.3-拷贝给其他机器

在/home目录下

#scp -r hadoop-2.5.1 root@node(234):/home/

在/home/hadoop-2.5.1

# scp~/.bash_profile root@node(234):/root/

启动之前先格式化hdfs文件系统

# hdfs namenode-format    只能在指定的namenode(node1)机器上用

centos6.5安装hadoop集群

#start-dfs.sh          在任何目录下都可以启动

centos6.5安装hadoop集群

浏览器访问:192.168.217.174:50070

(如果不能打开,就关闭防火墙# serviceiptables stop)

centos6.5安装hadoop集群

centos6.5安装hadoop集群

到此,hadoop集群安装完毕


网站名称:centos6.5安装hadoop集群
网页URL:http://cdiso.cn/article/piogpo.html

其他资讯