教程分享

Linux下安装Hadoop详细步骤 CentOS7.4/Hadoop3.3.0

一、环境

运行环境:VMware Workstation 16.x

操作系统:Centos 7.4 (桌面环境)

安装版本:Hadoop 3.3.x

二、更换镜像源

已经更换请忽略

这里使用华为的源地址

1、切换Root用户:

su root

2、备份配置文件:

cp -a /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.bak

3、下载新的CentOS-Base.repo

wget -O /etc/yum.repos.d/CentOS-Base.repo https://mirrors.huaweicloud.com/repository/conf/CentOS-7-anon.repo

4、清除原有yum缓存:

yum clean all

5、刷新缓存:

yum makecache

三、创建用户

1、打开终端,在Centos中增加一个名为 hadoop 的用户,使用如下命令:

useradd -m hadoop -s /bin/bash

2、为hadoop用户设置密码

passwd hadoop

3、为hadoop增加管理员权限

visudo

找到此行 root ALL=(ALL) ALL

在下面添加一行 hadoop ALL=(ALL) ALL(空格为Tab)

Esc      :wq保存退出

4、切换用户

su - hadoop

四、环境准备

1、SSH 安装

rpm -qa | grep ssh

返回的如下结果:

openssh-server-7.4p1-21.el7.x86_64
openssh-7.4p1-21.el7.x86_64
libssh2-1.8.0-3.el7.x86_64
openssh-clients-7.4p1-21.el7.x86_64

包含了 SSH client 跟 SSH server,则不需要再安装。

如果没有,使用如下命令安装:

sudo yum install openssh-clients
sudo yum install openssh-server

设置ssh免密登录

ssh localhost

输入yes ,然后按提示输入密码,登陆到本机

exit;                         #退出登录
cd ~/.ssh/                     #若没有该目录,请先执行一次ssh localhost
ssh-keygen -t rsa              # 会有提示,都按回车就可以
cat id_rsa.pub >> authorized_keys  # 加入授权
chmod 600 ./authorized_keys    # 修改文件权限
ssh localhost                  #测试,不用输入密码即可登录

2、JAVA 环境安装

(1).查看系统是否安装过java

yum list installed | grep java

(2).如果有旧版本的java,可以用如下方法卸载java

rpm -qa | grep java | xargs rpm -e --nodeps 

(3).查看java软件包列表

yum -y list java*

(4).下载安装java1.8的所有软件包,中途需要输入y来确认下载。

yum install java-1.8.0-openjdk*

(5).安装成功,输入如下命令检查是否安装成功,如果返回正确的版本号则表示安装成功。

java -version

(6).环境变量配置

1)当前用户生效的配置
vim ~/.bashrc

#在文件底部加入下面一句

#set java environment
export JAVA_HOME=/usr/lib/jvm/java
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/jre/lib/rt.jar

#使得配置生效

source ~/.bashrc 
2)所有用户生效的配置
vim /etc/profile

#在文件底部加入下面三句

 #set java environment 

export JAVA_HOME=/usr/lib/jvm/java

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/jre/lib/rt.jar

export PATH=$PATH:$JAVA_HOME/bin

#使得配置生效

source /etc/profile 

五、安装 Hadoop 3

1、下载 Hadoop

wget http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-3.3.0/hadoop-3.3.0.tar.gz

2、解压到/usr/local目录

sudo tar -zxf hadoop-3.3.0.tar.gz -C /usr/local

3、进入/usr/local目录

cd /usr/local

4、将文件夹名改为hadoop

sudo mv ./hadoop-3.3.0/ ./hadoop  

5、修改文件权限

sudo chown -R hadoop:hadoop ./hadoop 

6、输入如下命令来检查 Hadoop 是否可用

cd /usr/local/hadoop
./bin/hadoop version

成功则会显示 Hadoop 版本信息

六、Hadoop配置

1、Hadoop单机配置(非分布式)

Hadoop 默认模式为非分布式模式,无需进行其他配置即可运行。非分布式即单 Java 进程,方便进行调试。

现在我们可以执行例子来感受下 Hadoop 的运行。Hadoop 附带了丰富的例子(运行 ./bin/hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.0.jar 可以看到所有例子),包括 wordcount、terasort、join、grep 等。

在此我们选择运行 grep 例子,我们将 input 文件夹中的所有文件作为输入,筛选当中符合正则表达式 dfs[a-z.]+ 的单词并统计出现的次数,最后输出结果到 output 文件夹中。

cd /usr/local/hadoop
mkdir ./input
cp ./etc/hadoop/*.xml ./input   # 将配置文件作为输入文件
./bin/hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar grep ./input ./output 'dfs[a-z.]+'
cat ./output/*          # 查看运行结果

符合正则的单词 dfsadmin 出现了1次

注:Hadoop 默认不会覆盖结果文件,因此再次运行上面实例会提示出错,需要先将 ./output 删除

rm -r ./output

2、Hadoop伪分布式配置

Hadoop 可以在单节点上以伪分布式的方式运行,Hadoop 进程以分离的 Java 进程来运行,节点既作为 NameNode 也作为 DataNode,同时,读取的是 HDFS 中的文件。

(1)设置 HADOOP 环境变量

vi ~/.bashrc

(2)在文件最后面增加如下内容:

# Hadoop Environment Variables
export HADOOP_HOME=/usr/local/hadoop
export HADOOP_INSTALL=$HADOOP_HOME
export HADOOP_MAPRED_HOME=$HADOOP_HOME
export HADOOP_COMMON_HOME=$HADOOP_HOME
export HADOOP_HDFS_HOME=$HADOOP_HOME
export YARN_HOME=$HADOOP_HOME
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/bin

使配置生效:

source ~/.bashrc

(3)修改配置文件 core-site.xml

vi /usr/local/hadoop/etc/hadoop/core-site.xml

初始配置:

<configuration>
<configuration/>

修改为下面配置:

<configuration>
    <property>
        <name>hadoop.tmp.dir</name>
        <value>file:/usr/local/hadoop/tmp</value>
        <description>Abase for other temporary directories.</description>
    </property>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>

(4)修改配置文件 hdfs-site.xml:

vi /usr/local/hadoop/etc/hadoop/hdfs-site.xml

修改为以下配置:

<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/usr/local/hadoop/tmp/dfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/usr/local/hadoop/tmp/dfs/data</value>
</property>
</configuration>

(5)执行 NameNode 的格式化:

./bin/hdfs namenode -format

成功的话,会看到 “successfully formatted” 和 “Exitting with status 0” 的提示,若为 “Exitting with status 1” 则是出错。

(6)开启 NaneNode 和 DataNode 守护进程:

./sbin/start-dfs.sh

启动完成后,可以通过命令 jps 来判断是否成功启动,若成功启动则会列出如下进程: “NameNode”、”DataNode”和SecondaryNameNode(如果 SecondaryNameNode 没有启动,请运行 sbin/stop-dfs.sh 关闭进程,然后再次尝试启动尝试)。如果没有 NameNode 或 DataNode ,那就是配置不成功,请仔细检查之前步骤,或通过查看启动日志排查原因。

成功启动后,可以访问 Web 界面 http://localhost:9870 查看 NameNode 和 Datanode 信息,还可以在线查看 HDFS 中的文件。

(3)

本文由 Technology garden 作者:鸭鸭吖 发表,转载请注明来源!

热评文章

评论:

19 条评论,访客:0 条,博主:0 条
  1. erotik film izle
    erotik film izle发布于: 

    Hello friends, its fantastic article concerning teachingand entirely explained, keep it up all the time. Brunhilde Loren Asta

  2. erotik izle
    erotik izle发布于: 

    Way cool! Some extremely valid points! I appreciate you writing this article and the rest of the site is extremely good. Madelena Puff Yoshio

  3. cheap flights
    cheap flights发布于: 

    Nice weblog right here! Additionally your website rather a lot up very fast!
    What web host are you the use of? Can I get your affiliate hyperlink in your host?
    I want my web site loaded up as fast as yours lol

  4. cheap flights
    cheap flights发布于: 

    Hi to every one, because I am genuinely eager of reading this blog’s post to be updated daily.
    It includes fastidious material.

  5. cheap flights
    cheap flights发布于: 

    I all the time used to read article in news papers but now as I am a user of net so from now I am using net for content,
    thanks to web.

  6. cheap flights
    cheap flights发布于: 

    Thanks for your personal marvelous posting!
    I truly enjoyed reading it, you are a great author.I
    will remember to bookmark your blog and will come back later on.
    I want to encourage you to ultimately continue your great job,
    have a nice weekend!

  7. altyazili
    altyazili发布于: 

    I get pleasure from, lead to I found just what I was having a look for. You have ended my four day long hunt! God Bless you man. Have a nice day. Bye Sara-Ann Erick Azarcon

  8. watch
    watch发布于: 

    Wonderful article! That is the kind of information that should be shared across the net. Viv Jocko Pattie

发表评论