hadoop HA模式搭建(基于前面博客要先搭建好zookeeper。hadoop HA模式搭建只是更改/etc/hadoop目录下面文件)

目录

1.创建目录,安装psmisc包

2.hadoop配置

1配置hadoop_en.sh

2配置core-site.xml

3配置vim hdfs-site.xml文件

4配置mapred-site.xml

5配置yarn-site.xml

6配置workers文件

7在master、slave1、slave2分别启动journalnode

8.在master格式化

10 .在master节点启动namenode

11.在slave1节点将namenode同步数据

12.在master节点让zkfc格式化 Zookeeper

13 启动集群

14启动历史服务器


1.创建目录,安装psmisc包

mkdir -p /export/hadoop/logs
yum -y install psmisc

2.hadoop配置

cd /export/hadoop/etc/hadoop/

1配置hadoop_en.sh

vim hadoop-env.sh
export JAVA_HOME=/export/jdk
export HDFS_JOURNALNODE_USER=root
export HDFS_ZKFC_USER=root                     

2配置core-site.xml

vim core-site.xml
<configuration>
  <!--设置默认使用的文件系统Hadoop支持file,HDFS,GFS,ali|Amazon云等文件系统 -->
    <property>
            <name>fs.defaultFS</name>
            <value>hdfs://master:8020</value>
    </property>
  <!--于指定文件读写时的缓冲区大小。缓冲区是一块内存区域,用于临时存储文件数据,以提高文件读写的性能-->
    <property>
            <name>io.file.buffer.size</name>
            <value>131072</value>
    </property>
  <!--文件系统垃圾桶保存时间-->
    <property>
            <name>fs.trash.interval</name>
            <value>1440</value>
    </property>

  <!--设置Hadoop本地保存数据路径-->
    <property>
            <name>hadoop.tmp.dir</name>
            <value>/export/hadoop/temp</value>
    </property>

  <!-- 设置HDFS web UI用户身份-->
    <property>
            <name>hadoop.http.staticuser.user</name>
            <value>root</value>
    </property>

  <!--整合hive用户代理设置-->
    <property>
            <name>hadoop.proxyuser.root.hosts</name>
            <value>*</value>
    </property>

  <!--配置Hadoop代理用户(proxyuser)的用户组(groups)权限-->
    <property>
           <name>hadoop.proxyuser.root.groups</name>
           <value>*</value>
     </property>

    <!--配置hadoopHA模式启动节点-->
    <property>
          <name>ha.zookeeper.quorum</name>
          <value>master,slave1,slave2</value>
     </property>

</configuration>  

3配置vim hdfs-site.xml文件

vim hdfs-site.xml
<configuration>
  <!--设置SNN进程运行机器位置信息-->
    <property>
           <name>dfs.namenode.secondary.http-address</name>
           <value>slave1:9868</value>
    </property>
  <
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值