技术归档

[置顶]Linux下安装Hadoop详细步骤 CentOS7.4/Hadoop3.3.0

一、环境

运行环境:VMware Workstation 16.x

操作系统:Centos 7.4 (桌面环境)

安装版本:Hadoop 3.3.x

二、更换镜像源

已经更换请忽略

这里使用华为的源地址

1、切换Root用户:

su root

2、备份配置文件:

cp -a /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.bak

3、下载新的CentOS-Base.repo

wget -O /etc/yum.repos.d/CentOS-Base.repo https://mirrors.huaweicloud.com/repository/conf/CentOS-7-anon.repo

4、清除原有yum缓存:

yum clean all

5、刷新缓存:

yum makecache

三、创建用户

1、打开终端,在Centos中增加一个名为 hadoop 的用户,使用如下命令:

useradd -m hadoop -s /bin/bash

2、为hadoop用户设置密码

passwd hadoop

3、为hadoop增加管理员权限

visudo

找到此行 root ALL=(ALL) ALL

在下面添加一行 hadoop ALL=(ALL) ALL(空格为Tab)

Esc      :wq保存退出

4、切换用户

su - hadoop

四、环境准备

1、SSH 安装

rpm -qa | grep ssh

返回的如下结果:

openssh-server-7.4p1-21.el7.x86_64
openssh-7.4p1-21.el7.x86_64
libssh2-1.8.0-3.el7.x86_64
openssh-clients-7.4p1-21.el7.x86_64

包含了 SSH client 跟 SSH server,则不需要再安装。

如果没有,使用如下命令安装:

sudo yum install openssh-clients
sudo yum install openssh-server

设置ssh免密登录

ssh localhost

输入yes ,然后按提示输入密码,登陆到本机

exit;                         #退出登录
cd ~/.ssh/                     #若没有该目录,请先执行一次ssh localhost
ssh-keygen -t rsa              # 会有提示,都按回车就可以
cat id_rsa.pub >> authorized_keys  # 加入授权
chmod 600 ./authorized_keys    # 修改文件权限
ssh localhost                  #测试,不用输入密码即可登录

2、JAVA 环境安装

(1).查看系统是否安装过java

yum list installed | grep java

(2).如果有旧版本的java,可以用如下方法卸载java

rpm -qa | grep java | xargs rpm -e --nodeps 

(3).查看java软件包列表

yum -y list java*

(4).下载安装java1.8的所有软件包,中途需要输入y来确认下载。

yum install java-1.8.0-openjdk*

(5).安装成功,输入如下命令检查是否安装成功,如果返回正确的版本号则表示安装成功。

java -version

(6).环境变量配置

1)当前用户生效的配置
vim ~/.bashrc

#在文件底部加入下面一句

#set java environment
export JAVA_HOME=/usr/lib/jvm/java
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/jre/lib/rt.jar

#使得配置生效

source ~/.bashrc 
2)所有用户生效的配置
vim /etc/profile

#在文件底部加入下面三句

 #set java environment 

export JAVA_HOME=/usr/lib/jvm/java

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/jre/lib/rt.jar

export PATH=$PATH:$JAVA_HOME/bin

#使得配置生效

source /etc/profile 

五、安装 Hadoop 3

1、下载 Hadoop

wget http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-3.3.0/hadoop-3.3.0.tar.gz

2、解压到/usr/local目录

sudo tar -zxf hadoop-3.3.0.tar.gz -C /usr/local

3、进入/usr/local目录

cd /usr/local

4、将文件夹名改为hadoop

sudo mv ./hadoop-3.3.0/ ./hadoop  

5、修改文件权限

sudo chown -R hadoop:hadoop ./hadoop 

6、输入如下命令来检查 Hadoop 是否可用

cd /usr/local/hadoop
./bin/hadoop version

成功则会显示 Hadoop 版本信息

六、Hadoop配置

1、Hadoop单机配置(非分布式)

Hadoop 默认模式为非分布式模式,无需进行其他配置即可运行。非分布式即单 Java 进程,方便进行调试。

现在我们可以执行例子来感受下 Hadoop 的运行。Hadoop 附带了丰富的例子(运行 ./bin/hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.0.jar 可以看到所有例子),包括 wordcount、terasort、join、grep 等。

在此我们选择运行 grep 例子,我们将 input 文件夹中的所有文件作为输入,筛选当中符合正则表达式 dfs[a-z.]+ 的单词并统计出现的次数,最后输出结果到 output 文件夹中。

cd /usr/local/hadoop
mkdir ./input
cp ./etc/hadoop/*.xml ./input   # 将配置文件作为输入文件
./bin/hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar grep ./input ./output 'dfs[a-z.]+'
cat ./output/*          # 查看运行结果

符合正则的单词 dfsadmin 出现了1次

注:Hadoop 默认不会覆盖结果文件,因此再次运行上面实例会提示出错,需要先将 ./output 删除

rm -r ./output

2、Hadoop伪分布式配置

Hadoop 可以在单节点上以伪分布式的方式运行,Hadoop 进程以分离的 Java 进程来运行,节点既作为 NameNode 也作为 DataNode,同时,读取的是 HDFS 中的文件。

(1)设置 HADOOP 环境变量

vi ~/.bashrc

(2)在文件最后面增加如下内容:

# Hadoop Environment Variables
export HADOOP_HOME=/usr/local/hadoop
export HADOOP_INSTALL=$HADOOP_HOME
export HADOOP_MAPRED_HOME=$HADOOP_HOME
export HADOOP_COMMON_HOME=$HADOOP_HOME
export HADOOP_HDFS_HOME=$HADOOP_HOME
export YARN_HOME=$HADOOP_HOME
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/bin

使配置生效:

source ~/.bashrc

(3)修改配置文件 core-site.xml

vi /usr/local/hadoop/etc/hadoop/core-site.xml

初始配置:

<configuration>
<configuration/>

修改为下面配置:

<configuration>
    <property>
        <name>hadoop.tmp.dir</name>
        <value>file:/usr/local/hadoop/tmp</value>
        <description>Abase for other temporary directories.</description>
    </property>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>

(4)修改配置文件 hdfs-site.xml:

vi /usr/local/hadoop/etc/hadoop/hdfs-site.xml

修改为以下配置:

<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/usr/local/hadoop/tmp/dfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/usr/local/hadoop/tmp/dfs/data</value>
</property>
</configuration>

(5)执行 NameNode 的格式化:

./bin/hdfs namenode -format

成功的话,会看到 “successfully formatted” 和 “Exitting with status 0” 的提示,若为 “Exitting with status 1” 则是出错。

(6)开启 NaneNode 和 DataNode 守护进程:

./sbin/start-dfs.sh

启动完成后,可以通过命令 jps 来判断是否成功启动,若成功启动则会列出如下进程: “NameNode”、”DataNode”和SecondaryNameNode(如果 SecondaryNameNode 没有启动,请运行 sbin/stop-dfs.sh 关闭进程,然后再次尝试启动尝试)。如果没有 NameNode 或 DataNode ,那就是配置不成功,请仔细检查之前步骤,或通过查看启动日志排查原因。

成功启动后,可以访问 Web 界面 http://localhost:9870 查看 NameNode 和 Datanode 信息,还可以在线查看 HDFS 中的文件。

(2)

本文由 小龙的博客 作者:鸭鸭吖 发表,转载请注明来源!

热评文章

发表评论