0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

虚拟机:Hadoop集群的测试

如意 来源:百家号 作者: 程序员陌然 2020-07-01 13:03 次阅读

一、格式化文件系统

通过前面的学习,此时还不能直接启动集群,因为在初次启动HDFS集群时,编写对主节点进行格式化处理,具体指令如下:

hdfs namenode -format(只需要在主节点运行即可或hadoop namenode -format)

执行以上任意一条命令若出现“successfully formatted”文字表示格式化成功,然后就可以启动集群了。

二、启动和关闭Hadoop集群

1.单个节点逐个启动和关闭

a.在主节点运行namenode进程

hadoop-daemon.sh start namenode

b.在每个从节点运行datanode进程

hadoop-daemon.sh start datanode

c.在主节点运行yarn resourcemanger进程

yarn-daemon.sh start resourcemanager

d.在每个从节点运行yarn nodemanger进程

yarn-daemon.sh start nodemanager

e.在规划节点hadoop02使用以下指令启动secondarynamenode进程

hadoop-daemon.sh start secondarynamenode

运行完成以上进程命令,如何判断是否成功?需要jps命令查看当前虚拟机进程,hadoop01是四个进程hadoop02是三个进程hadoop03是两个进程

2.脚本一键启动和关闭

(1)在主节点hadoop01上使用以下指令启动所有HDFS服务进程:

start-dfs.sh

(2)在主节点hadoop01上使用以下指令启动所有YARN服务进程:

start-yarn.sh

如果需要停止相关服务进程,只需要将start改为stop即可(即stop-dfs.sh和stop-yarn.sh)

hadoop01 192.168.21.164

通过访问以上IP+端口地址(50070 8088两个端口)

http:192.168.21.164:50070http:192.168.21.164:8088

如果没有关闭防火墙,可能导致无法访问,则使用以下命令关闭防火墙:

systemctl stop firewalld(三台机器都要关闭)

如果以主机名来访问二大集群

http://hadoop01:50070http://hadoop01:8088

则必须配置宿主机hosts文件在C:\Windows\System32\drivers\etc填写如下内容:

192.168.21.164 hadoop01192.168.21.165 hadoop02192.168.21.166 hadoop03

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 集群
    +关注

    关注

    0

    文章

    79

    浏览量

    17102
  • 虚拟机
    +关注

    关注

    1

    文章

    855

    浏览量

    27371
  • Hadoop
    +关注

    关注

    1

    文章

    90

    浏览量

    15825
收藏 人收藏

    评论

    相关推荐

    hadoop需要什么基础

    :⑦ 需要掌握虚拟机;⑧ 需要安装linux操作系统⑨ 需要配置虚拟机网络除了上述这几个方面,我们还需要了解hadoop的单机模式、伪分布模式和分布式模式的搭建方式。了解MapReduce分布式计算
    发表于 09-20 16:00

    Hadoop集群环境部署说明

    Hadoop集群环境搭建是很多学习hadoop学习者或者是使用者都必然要面对的一个问题,网上关于hadoop集群环境搭建的博文教程也蛮多的。
    发表于 10-12 15:51

    Hadoop基础入门之发行版本的选择

    似乎什么也没给出来。这个问题的关键在于“零基础”到底是个什么样的基础?所谓的零基础大体可以分为两种:第一种是hadoop初学者,有一定的Linux基础、虚拟机和Java基础;第二种是hadoop兴趣爱好
    发表于 11-28 13:25

    超详细Dkhadoop虚拟机图文安装步骤

    时经验为基础,给大家整理分享虚拟机的安装、操作系统安装、服务器操作系统配置、DKH系统安装等相关内容。文章篇幅可能会比较长,所以每篇就只分享一到两个点。本篇给大家分享DKHadoop虚拟机的环境安装
    发表于 01-07 15:57

    Hadoop新手篇:hadoop入门基础教程

    一起才是完整。1. 《hadoop集群管理系统搭建规划说明》2. 《最新虚拟机搭建hadoop环境详细图文教程》3. 《Hadoop伪分布式
    发表于 01-09 15:39

    超详细hadoop集群服务器安装配置教程

    虚拟机以及Linux系统安装在之前的两篇分享中已经详细的介绍了方法,并且每一步的都配图了。如果有朋友还是看不懂,那我也爱莫能助了。本篇主要就hadoop服务器操作系统配置进行详细说明,hadoop
    发表于 01-23 15:22

    hadoop集群的NameNod

    hadoop集群部署
    发表于 08-20 14:33

    hadoop集群配置方法

    hadoop集群配置
    发表于 09-30 14:16

    hadoop集群搭建的准备

    hadoop集群搭建系列(step01:集群搭建准备)
    发表于 03-31 09:47

    hadoop 27集群安装JDK

    hadoop 27集群搭建
    发表于 04-02 06:28

    求一种基于集群的技术和基于虚拟机重启的技术

    什么是IBM Power Systems的地理分散弹性?灾难恢复和高可用性(HA)解决方案主要基于两种技术:基于集群的技术和基于虚拟机重启的技术。 群集高可用性和灾难恢复解决方案通常会部署冗余的硬件
    发表于 12-29 06:23

    基于Ubuntu的Hadoop集群安装与配置

    基于Ubuntu的Hadoop集群安装与配置
    发表于 09-08 14:20 8次下载
    基于Ubuntu的<b class='flag-5'>Hadoop</b><b class='flag-5'>集群</b>安装与配置

    如何搭建hadoop平台_hadoop平台搭建步骤

    如何搭建hadoop平台如下所示,一、虚拟机及系统安装二、在虚拟机中配置JAVA环境三、修改hosts...
    发表于 01-02 09:29 8900次阅读

    虚拟机Hadoop集群的搭建

    虚拟机Hadoop集群的搭建
    的头像 发表于 07-01 13:03 2964次阅读
    <b class='flag-5'>虚拟机</b>:<b class='flag-5'>Hadoop</b><b class='flag-5'>集群</b>的搭建

    虚拟机Hadoop集群的配置

    虚拟机Hadoop集群的配置
    的头像 发表于 07-01 14:14 2551次阅读