大数据：hadoop多节点集群搭建指南
1、多节点集群架构设计
后续介绍的hadoop多节点集群由三台计算机构成:一台主节点为master ， 两台从节点为slave1、slave2 。
master节点上主要运行namenode、Resourcemanager进程；slave节点上运行datanode、nodemanager进程 。
文章图片
由于大家一般只有一台计算机 ， 因此我们使用虚拟机软件VMwareworkstation虚拟出三台计算机来分别运行master、slave1、slave2节点 。 因为是虚拟出的集群 ， 所以跟实际的进群还是有差距的 ， 不会体会到真正的并行计算与并行存储的优势 。 实际工作中整个集群会有十几个甚至上百个节点 ， 可以批量处理以T为单位的数据 。 然而他们配置方法是大致相同的 ， 运行过程也是一致的 ， 区别只是在运行速度和存储数据量上会体现出来 。
为了简化安装过程 ， 我们将在之前的伪分布集群基础上通过修改配置文件等操作来创建master节点 。
2、复制伪分布集群节点
首先需要复制之前安装配置过伪分布集群的虚拟机 。 具体操作步骤如下：
1）启动VMwareWorkstation ， 选择虚拟机->管理->克隆
文章图片
单击下一步继续
文章图片
克隆自选择虚拟机中的当前状态 ， 然后单击下一步
文章图片
克隆方法选择创建完整克隆
文章图片
虚拟机名称设置为master ， 虚拟机位置根据电脑情况 ， 请自定义 。 最后单击完成按钮完成克隆配置 。
文章图片
耐心等待 ， 克隆过程时间长短取决于电脑磁盘读写性能 。
文章图片
出现如下图标表示克隆完成 ， 单击关闭按钮结束克隆过程 。
文章图片
此时VMware自动弹出克隆后的虚拟机控制窗口 。
文章图片
3、虚拟机参数设置
用于分布式集群的虚拟机既要可以连接互联网又要可以连接其他虚拟机 ， 在VMware软件中网卡类型选择NAT模式即可完成集群外部、内部通讯 。 如果是在virtualbox中则配置NAT网卡之外还需配置仅主机模式网卡一张 ， NAT与外部通讯 ， 仅主机模式网卡用于集群内部通讯 。
参照下图双击网络适配器
双击
文章图片
网络连接选择NAT模式 ， 内存建议2G ， 其他配置默认即可 。
文章图片
【大数据：hadoop多节点集群搭建指南】复制好master虚拟机之后还需对其进行多项配置 ， 主要有hostname、配置固定IP ， 修改hadoop配置文件等 ， 这些内容将在下篇介绍 。
推荐阅读
- 凉茶|凉茶最大的问题不是添加西药，而是冒充饮料
- 上汽大众途观x|颜值比途观L高！上汽大众途观X将亮相2020北京车展，明年初上市
- 未来的大学生活“长啥样”？ 来看学长为你写下的万字指南
- the|新冠肺炎成美国第三大致死原因 仅次于心脏病和癌症
- 多所在京大学录取线来了 各校设置多条投档线
- 旅行路上阿|成都反差最大景区，一边是游客专属一边本地人最爱，门票相差4倍
- 旅行在路上啊|成都反差最大景区，一边是游客专属一边本地人最爱，门票相差4倍
- 腾讯任天堂Switch国行《健身环大冒险》将于8月19日发布
- 珠海生活资讯交流|推动琴澳旅游合作, 大横琴文旅展示中心18日在横琴口岸正式开放
- 提供“让兴趣成为职业”的可能 “微经济”有大宝藏