正文集群搭建为四台机器,小说中有湖北姑娘的茜草馨美观爱情故事

自身有一个大姨群,几个闺蜜都已为人母,常常在里边商量育儿经验,吐槽各个家庭教育问题。今儿个闺蜜外孙子因为六一上演临阵退缩,清晨在家里引发了一场有关家庭教育问题的大讨(zhan)论(zheng)。

序言

记录下Hadoop集群的搭建进程及旅途踩过的坑,希望能对正在学习的同桌有个协助,少走点弯路~

PS:为了有利于个人博客管理,此文从CSDN迁移过来,属于私有实际操作纪录的笔记,持续立异~

PPS:本文集群搭建为四台机器,不指出大家如此弄,因为zookeeper发挥最大成效的配备是大于2
的奇数台机器。

PPPS:有题目请下方留言,我们互动沟通,分享使我欢快~~

你好,贵州

政工是这么的,三岁的孩子早上出来活动,上午没怎么睡觉,上午拭目以待演出的年月足有三个小时,而且现场相比拥挤闷热,最终出台的时候就不肯上去了。岳父愤然作色,认为孩子胆小、懦弱。

一、先前时期准备

  1. 安装环境
    系统安顿:

     系统:centos 7 最小安装版 64位
     内存:10G 10G 10G 8G
    

    四台机械组成小集群(物理机)

     CDH-DEV1 CDH-DEV2 CDH-DEV3 CDH-DEV4
    
  2. 须要下载的安装包

    留神下载相应系统的安装包

         CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel
         CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1
         manifest.json
    
  3. Installing Cloudera Manager and
    CDH

文/迎春花阿班

自己明天看了一句话,感受颇深,中国养父母和男女之间缺的不是联系,而是缺乏把相互当作独立的村办来强调。那句话,是因为网上爆红的两封父子对话的家书,有网友暴发的感慨。百般滋味在心头,你的养父母是怎样说服你去考公务员的?他们是何等告诉你学习无法恋爱,完成学业立即结婚的?

二、环境部署

专注有所操作都亟待运用root权限操作

  1. 中央配备(所有节点)

    修改 /etc/hostname

     CDH-DEV1
    

    修改
    /etc/hosts,此处一定要注意,不要按照网上有的表达,将127.0.0.1那一行里的localhost.localdomain改成主机名称,在安装Cloudera
    Agent的时候会识别不出名称和IP

    image.png

修改 /etc/sysconfig/network

    NETWORKING=yes
    HOSTNAME=CDH-DEV1
  1. Java环境(所有节点)

    下载jdk-8u144-linux-x64.tar.gz
    解压到/usr/java(可按照个体习惯成立目录)

     tar xzvf jdk-8u144-linux-x64.tar.gz
    

    配备环境变量

     [root@CDH-DEV1 .ssh]# vim /etc/profile #在文件末尾添加下面三行
    
     export JAVA_HOME=/usr/java/jdk1.8.0_144
     export PATH=$JAVA_HOME/bin:$PATH
     export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
    
     [root@CDH-DEV1 .ssh]# source /etc/profile #使生效
    
  2. SSH无密码登录(集群内节点可以相互无密码访问)

    思路:第一台机器配置authorized_keys,scp到第二台机器,将第二台机械的公钥添加到authorized_keys,然后将其scp到第三台,以此类推,直到配置到最终一台机械,将最后一台机械的authorized_keys
    scp到独具节点,如下

    1)在主节点(CDH-DEV1)执行

     [root@CDH-DEV1 .ssh]# ssh-keygen -t rsa
     [root@CDH-DEV1 .ssh]# cat id_rsa.pub >> authorized_keys
     [root@CDH-DEV1 .ssh]# chmod 600 authorized_keys
     [root@CDH-DEV1 .ssh]# scp authorized_keys root@CDH-DEV2:~/.ssh
    

    2)在CDH-DEV2执行

     [root@CDH-DEV2 .ssh]# ssh-keygen -t rsa
     [root@CDH-DEV2 .ssh]# cat id_rsa.pub >> authorized_keys
     [root@CDH-DEV2 .ssh]# chmod 600 authorized_keys
     [root@CDH-DEV2 .ssh]# scp authorized_keys root@CDH-DEV3:~/.ssh
    

    3)在CDH-DEV2执行

     [root@CDH-DEV3 .ssh]# ssh-keygen -t rsa
     [root@CDH-DEV3 .ssh]# cat id_rsa.pub >> authorized_keys
     [root@CDH-DEV3 .ssh]# chmod 600 authorized_keys
     [root@CDH-DEV3 .ssh]# scp authorized_keys root@CDH-DEV4:~/.ssh
    

    4)在CDH-DEV2执行

     [root@CDH-DEV4 .ssh]# ssh-keygen -t rsa
     [root@CDH-DEV4 .ssh]# cat id_rsa.pub >> authorized_keys
     [root@CDH-DEV4 .ssh]# chmod 600 authorized_keys
     [root@CDH-DEV4 .ssh]# scp authorized_keys root@CDH-DEV1:~/.ssh
     [root@CDH-DEV4 .ssh]# scp authorized_keys root@CDH-DEV2:~/.ssh
     [root@CDH-DEV4 .ssh]# scp authorized_keys root@CDH-DEV3:~/.ssh
    
  3. 安装MySQL(主节点安装即可)

    设置步骤:
    (1)此处需求注意的是centos 7
    默许安装的是mariadb,假诺不卸载直接设置的话会报错,报错信息mariadb-libs is obsoleted by mysql-community-libs-5.7.9-1.el7.x86_64

     rpm -qa | grep mariadb #查看安装信息
     rpm -e mariadb-libs* --nodeps #根据查找到的软件包信息卸载
    

    (2)安装MySQL(必须按以下依次安装)

     rpm -ivh mysql-community-common-5.7.20-1.el7.x86_64.rpm
     rpm -ivh mysql-community-libs-5.7.9-1.el7.x86_64.rpm
     rpm -ivh mysql-community-client-5.7.9-1.el7.x86_64.rpm
     rpm -ivh mysql-community-server-5.7.9-1.el7.x86_64.rpm
    

    (3)基本设置

     service mysqld start #启动服务
     vim /var/log/mysqld.log  #查看初始密码
     mysql -uroot -p   #登录
     set password = password('test01.') #设置密码
    
     #授权用户root使用密码passwd从任意主机连接到mysql服务器
     GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'passwd' WITH GRANT OPTION;
     flush privileges;
    

    (4)建数据库(用于末端组件安装)

     create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
     create database oozie DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
     create database hue DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
    
  4. 关闭防火墙(所有节点)
    centos 7 默许使用的是firewall,不是iptables

     systemctl stop firewalld.service
     systemctl mask firewalld.service
    
  5. 关门SELinux(所有节点)

     [root@CDH-DEV1 .ssh]# vim /etc/selinux/config
    
     设置SELINUX=disabled
    
  6. 配置NTP服务(所有节点)

     安装
     [root@CDH-DEV1 .ssh]# yum install ntp
     设置开机启动
     [root@CDH-DEV1 .ssh]# chkconfig ntpd on
     服务启动
     [root@CDH-DEV1 .ssh]# service ntpd start
    
  7. 拥有节点上创立用户

     useradd --system --home=/opt/cm-5.13.0/run/cloudera-scm-server/ --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm
    

诸君简书小伙伴,在你们的关切和着力下,台湾省专题《你好,湖南》征文,正式告一段落收稿活动。

先是,大家把她当做一个人吗。不管她有多么美好或者多么普通,他都有优点缺点,更有心绪和感触。他不想出演,是因为不痛快?仍旧不耐烦?他立即是怎么想的?有怎么着的感想?假诺子女可以一向愿意向老人倾诉内心真实的感触,是还是不是能更好地找到解决问题的不二法门吗?我想是还是不是可以品尝先对他的感触表示了然,听她倾诉为何做那么些决定,然后再协理他伴随他共同化解以后就像是的题目?

三、安装

  1. 安装Cloudera Manager Server 和Agent

(1)将下载好的cloudera-manager-centos7-cm5.13.0_x86_64.tar.gz解压到主节点的/opt/,解压出来的文本夹为clouderacm-4.13.0

(2)为Cloudera
Manager建立数据库,此处需求后面下载好的mysql-connector-java-5.1.44-bin.jar

scp mysql-connector-java-5.1.44-bin.jar root@CDH-DEV1:/opt/cm-5.13.0/share/cmf/lib/
scp mysql-connector-java-5.1.44-bin.jar root@CDH-DEV1:/usr/share/java/

/opt/cm-5.13.0/share/cmf/schema/scm_prepare_database.sh mysql -uroot -p scm scm

(3)配置Agent

vim opt/cm-5.1.3/etc/cloudera-scm-agent/config.ini
server_host=CDH-DEV1

#拷贝到其他节点
[root@CDH-DEV1 parcel-repo]# scp -r /opt/cm-5.13.0/ root@cdh-dev2:/opt/
[root@CDH-DEV1 parcel-repo]# scp -r /opt/cm-5.13.0/ root@cdh-dev3:/opt/
[root@CDH-DEV1 parcel-repo]# scp -r /opt/cm-5.13.0/ root@cdh-dev4:/opt/

(4)准备parcels,将CDH相关文件拷贝到主节点/opt/cloudera/parcel-repo/

#相关文件    
CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel
CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1
manifest.json

#操作
scp mysql-connector-java-5.1.44-bin.jar root@CDH-DEV1:/opt/cm-5.13.0/share/cmf/lib/
scp mysql-connector-java-5.1.44-bin.jar root@CDH-DEV1:/usr/share/java/

需要将CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1改成CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha,否则安装时会重新下载,很重大!!

[root@CDH-DEV1 parcel-repo]# mv CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1 CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha

(5)启动

#主节点
/opt/cm-5.13.0/etc/init.d/cloudera-scm-server start

#主节点及其他节点
/opt/cm-5.13.0/etc/init.d/cloudera-scm-agent start

启动须求点时间,可以查看数据库scm中的hosts表,借使中间出现节点信息表示server启动完结

  1. 起始设置Hadoop集群

签到界面,默许登录用户名和密码都是admin

image.png

分选设置版本

image.png

为CDH群集安装指定主机

此处是在近日管理的主机里甄选机器,不要在新主机里寻找,别的那一个地点显得的主机新闻一定要对,我起来的时候因为主机名配置出问题,导致不可以识别主机名称和IP,纵然agent的uuid是分配到了四台机械上,不过前面的装置不可能举办。

image.png

群集安装

image.png

群集安装–安装指定parcel

分红时间受带宽影响,我的是千兆调换机组成的局域网,速度还足以,应该不到十分钟

image.png

反省主机正确性

image.png

第四个警示直接在享有节点上实施echo 10 > /proc/sys/vm/swappiness
其次个警示根据地方的验证,在有着节点上执行那两条命令
echo never > /sys/kernel/mm/transparent_hugepage/defrag >> /etc/rc.local
echo never > /sys/kernel/mm/transparent_hugepage/enabled >> /etc/rc.local

群集设置–接纳安装服务–按需接纳
群集设置–自定义角色–默许即可
群集设置–数据库设置

image.png

此地hue老出问题,一直解决不了,为了整条线走下来,而且目测hue基本用不到,所以选取了甩掉安装hue.
贴一下网上找的多少个缓解格局,我都试了,没有解决,不亮堂怎么样问题,将来切磋商讨

群集设置–审查–默认即可
群集设置–首次设置–默许即可

开始安装服务
那边hive
,oozie会安装败北,战败信息如下。因为大家使用了MySQL作为hive元数据存储,须求将mysql驱动拷贝到hive和oozie目录下

image.png

image.png

不留余地办法(必要在有着节点上执行)

cp /opt/cm-5.13.0/share/cmf/lib/mysql-connector-java-5.1.44-bin.jar /opt/cloudera/parcels/CDH-5.13.0-1.cdh5.13.0.p0.29/lib/hive/lib/
cp /opt/cm-5.13.0/share/cmf/lib/mysql-connector-java-5.1.44-bin.jar /var/lib/oozie/        

设置到位

image.png

这一次活动得到了,各位现在要么是早就生活在福建的心上人的积极参与。活动征文活动,共收下了28篇小说,主要以记录四川爱情故事的记叙文,旅游故事的随笔等为主。

其次,大家是还是不是不给男女贴标签。胆小、懦弱、怕事、内向、娇纵……我们的儿女如玉璞,他将会变成什么的人是靠你一手一脚带出来的,而非三岁定八十。况且,他一岁的时候怕旁人,两岁的时候只说不,三岁的时候有主意……这么些都不是贴上标签的说辞,而是怎样陪伴他成为她协调。

四、踩过的坑

  1. 数据库配置
    问题讲述:开始给Cloudera
    Manager配置数据库的时候,找的是网上的指令,/opt/cm-5.13.0/share/cmf/schema/scm_prepare_database.sh mysql cm -hlocalhost -uroot -p --scm-host localhost scm scm scm,平素报错,不领悟如何问题,报错音讯java.sql.SQLException: Your password does not satisfy the current policy requirements,各类改密码复杂度及下落数据库密码复杂度须求都丰裕,怀疑是CDH版本更新命令参数暴发了转变
    杀鸡取蛋办法,去掉一部分参数,
    /opt/cm-5.13.0/share/cmf/schema/scm_prepare_database.sh mysql -uroot -p scm scm

  2. cloudera-scm-server启动,cm-5.13.0/etc/init.d/cloudera-scm-server:行109: pstree: 未找到命令,centos最小安装版紧缺软件包,安装即可,yum install psmisc

  3. 中途安装失利,重新安装

    闭馆所有服务

     #主节点
     [root@CDH-DEV1 opt]# /opt/cm-5.13.0/etc/init.d/cloudera-scm-server stop
     #主节点及其他节点
     [root@CDH-DEV1 opt]# /opt/cm-5.13.0/etc/init.d/cloudera-scm-agent stop
    

    删除agent uuid

     rm -rf /opt/cm-5.13.0/lib/cloudera-scm-agent/*
    

    删去数据库scm
    重新配置数据库
    /opt/cm-5.13.0/share/cmf/schema/scm_prepare_database.sh mysql -hlocalhost -uroot -p scm scm
    起步Cloudera server和agent,依照事先步骤安装即可

文章中有吉林姑娘的茜草馨美观爱情故事,有韩小衣旅行中切记的情意邂逅,也有东营姑娘记得当归歌颂新疆美景的好好美文。

其三,不参照别人家的孩子。为啥其他小朋友都经历了扳平的长河所有人都出演了,唯独你做不到?咱们也琢磨小时候父母跟大家说旁人家男女保加利亚语考100分的时候,你立即是何许的感触?孩子认为您不认同我的不竭,为啥我数学考了100分你看不见?我跑步跑得很快你看不见?我作的极力都是白费的。

五、参考网站

Installing Cloudera Manager and
CDH

Cloudera Manager
5和CDH5离线安装,CDH-5.7.1

离线安装Cloudera Manager 5和CDH5(最新版5.1.3)
完全教程

因为有您,河北专题的移动,才能圆满成功。每一个希望,都须要你的极力。

第四,放下父母的体面。希望孩子成为一个完美的孩子,究竟是“为了他好”,照旧为了自己的颜面?而实际,完美的子女又是还是不是留存?大家的儿女,他是一个旷世的孩子,不是为着老人的体面而活。面子那几个砍,说来简单,做到科学,且做且制服吧。

写在前面

码字不易,觉得好点个赞哈~~

黑龙江省专题,属于地点专题,由于江西本不属于人口大省,所以人气少是时下的现状。

第五,言传不及身教。最终,落到实处到方法的题材,老话,你希望儿女变成什么的人,首先,自己得是什么样的人。应该感谢孩子,让您变成更好的融洽。因为更好的你,才能塑造出更好的子女。

深信爱写作的人,无论是多么低的人气,都会持久坚贞不屈自己的心目。

未经授权,禁止转发。

简书上有很多,热门及人气的专题,甘肃省专题首要是为诸位四川简友,提供交友和互换的专题。

可望你的持之以恒,可以拥有美好的获得。辽宁省专题会给予你一个美好的阳台,希望你在简书收获的不断是投机的知心人,还有一个名贵的人生财富。

敬请期待,大家作品评选活动会在日前公示!

相关文章