Centos7安装和配置hadoop2.7.3的流程和总结

发布时间 : 星期二 文章Centos7安装和配置hadoop2.7.3的流程和总结更新完毕开始阅读

CentOS7安装Hadoop2.7.3完整流程及总结

一、前言

配置一台master服务器,两台(或多台)slave服务器,master可以无密码SSH登录到slave。卸载centos7自带的openjdk,通过SecureCRT的rz命令上传jdk-7u79-linux-x64.tar.gz文件到服务器,解压安装JDK,解压安装Hadoop,配置hadoop的core-site.xml、hdfs-site.xml、mapred-site.xml、yarn-site.xml文件。配置好之后启动hadoope服务,用jps命令查看状态。再运行hadoop自带的wordcount程序做一个Hello World实例。

二、准备工作

我的系统:

windows 10 家庭普通中文版 cpu:intel i5 2.2GHz

内存:8G 64位操作系统

需要准备的软件和文件(全部是64位安装包) 1. 虚拟机:VMware 12 Pro12.5.2

2. Centos7官网下载:https://www.centos.org/download/选择DVD ISO(标准

版)http://isoredirect.centos.org/centos/7/isos/x86_64/CentOS-7-x86_64-DVD-1511.iso

3. JDK 1.7及以上,官网下载:jdk-7u79-linux-x64.tar.gz

4. Hadoop 2.7.3下载地址:

http://www-eu.apache.org/dist/hadoop/common/hadoop-2.7.3/hadoop-2.7.3.tar.gz

5. SecureCRT version 7.2.3

三、安装过程

提示:先创建一台虚拟机,安装好centos7系统,使用VMware 的克隆功能,克隆另外两台虚拟机。这样可以节省时间。

3.1虚拟机设置

当三台虚拟机安装好之后,获得它们的IP地址,并设置主机名,(根据实际IP地址和主机名)修改/etc/hosts文件内容为: 192.168.186.128master.hadoop 192.168.186.129 slave1.hadoop 192.168.186.130 slave2.hadoop

1、vi /etc/hosts命令修改,然后保存(vi的相关命令见引用来源16)

2、more /etc/hosts查看

3、重启后,hosts生效。命令:reboot now

3.2 SSH免密码登录

提示:我全程用的都是root用户,没有另外创建用户。每台服务器都生成公钥,再合并到authorized_keys。

1) CentOS默认没有启动ssh无密登录,去掉/etc/ssh/sshd_config其中2行的注

释,每台服务器都要设置, #RSAAuthentication yes #PubkeyAuthentication yes

2) 输入命令,ssh-keygen -t rsa,生成key,都不输入密码,一直回车,/root就

会生成.ssh文件夹,每台服务器都要设置,

3) 合并公钥到authorized_keys文件,在master服务器,进入/root/.ssh目录,

通过SSH命令合并,(~/.ssh/id_rsa.pub 是省略的写法,要根据实际路径来确定)

cat id_rsa.pub>>authorized_keys

ssh root@192.168.186.129 cat ~/.ssh/id_rsa.pub>>authorized_keys ssh root@192.168.186.130 cat ~/.ssh/id_rsa.pub>>authorized_keys

4) 把master服务器的authorized_keys、known_hosts复制到slave服务器的

/root/.ssh目录

scp -r /root/.ssh/authorized_keysroot@192.168.186.129:/root/.ssh/ scp -r /root/.ssh/known_hostsroot@192.168.186.129:/root/.ssh/

scp -r /root/.ssh/authorized_keysroot@192.168.186.130:/root/.ssh/ scp -r /root/.ssh/known_hostsroot@192.168.186.130:/root/.ssh/

5) 完成后,ssh root@192.168.186.129、ssh root@192.168.186.130或者

(sshroot@slave1.hadoop、sshroot@slave2.hadoop ) 就不需要输入密码直接登录到其他节点上。

3.4 Secure CRT连接虚拟机

1、在VMware中把三台虚拟机启动,如下图所示:

联系合同范文客服:xxxxx#qq.com(#替换为@)