国产银河麒麟V10系统适配安装CDH大数据平台

小豆丁 8月前 ⋅ 1182 阅读

一、部署前准备

1、操作系统
2、部署包
3、部署包路径
4、部署组件
5、硬件要求
6.使用软连接 修改/opt/存储目录(若根目录空间不够问题,具体需要链接的目录试情况而定)

二、部署步骤

1、安装包准备
2、数据包的上传和解压
3、 关闭SELinux   和防火墙 (全部节点)
4、根据现场情况 修改配置文件  cdh-config.properties
5、修改 脚本挂载iso镜像名(需跟上传的iso镜像名一致)
6、修改mysql密码  脚本默认为Iamzqykj1!(按需修改)
7、执行1-env-install.sh脚本
查看 ntpd服务状态 
查看http服务状态
查看mysql服务状态
8、第二个脚本2-cloudera-manager-installer.bin不执行
9、执行第三个脚本3-cluster-prepare.sh

三、群集的可视化安装

登录7180页面,配置参数
登录地址为172.30.6.97:7180  admin/admin
选择安装的版本
集群名称
  选择全部主机
等待安装
 检查网络性能 和主机
检查主机正确性,除了主机名,其余都要验证正确
如图所示 选择 我了解风险,让我继续创建集群
选择自定义安装(已验证hbase solr spark zk hdfs hive  impala kudu oozie  yarn,10个组件可以正常安装,hue服务缺少依赖无法安装,后期可用工具连接) 
选择需要安装的组件
选择途中的组件要部署的主机 (根据需求)
配置数据库
初始化集群配置(按需修改)
安装完成后
集群安装完毕的web页面

四、CDH页面参数设置

 1、HDFS的参数配置(重点关注副本数)
选择配置  搜索  dfs.replication参数  默认为3  根据需求设置为2
进入hdfs 配置页面搜索 NameNode 的 Java 堆
DataNode 设置
2、HBASE内存设置
进入hbase配置页面搜索 “内存”
Hbase参数配置,如下截图所示
3、Solr参数配置
进入solr配置页面搜索“内存”
Solr Server 的 Java 堆栈大小:设置为 64 吉字节
 Solr 服务器的 Java 直接内存大小:设置为50G
solr的HDFS 块缓存碎片数设置
4、yarn参数设置
修改yarn 容器资源为64G
5、 Zookeeper  配置
ZooKeeper Server 的 Java 堆栈大小(字节)设置为4G 
6、修改日志存放目录
HDFS日志路径的修改
Hbase日志路径的修改
Solr日志路径的修改
Spark日志路径的修改
Yarn日志路径的修改
Zookeeper日志路径的修改
Cloudera-Management 日志路径的修改
Cloudera-scm-server
备份cm-server文件
 如若未能生成cloudera-scm-server目录 需手动创建再重启
Cloudera-scm-agent日志路径的修改
修改后重启服务
五、页面停掉服务
停止cloudera-scm-server服务
重启cloudera-scm-server服务

六、分词器

七、FAQ

1.如果agent添加不成功
2. 7180端口启动后页面无法访问
3.在CDH上启动zookeeper
4.在CDH启动solr服务失败
5.datanode启动报错
6.以下网络接口似乎未全速运行,virbr-nic。 4主机接口网络似乎为全速运行,cloudera manager agent 无法确定双工模式或接口速度
7.多台CDH集群的情况下,图库创建图空间报IK分词错误
8、CDH集群中solr配置 slab的计算方式:
9、创建图空间HBASE报错
10、启动cloudera-manager-agent缺resolv.conf
11、启动cloudera-manager-agent失败无响应,查看状态是失败
12、页面安装时获取不到parcel
13、HBase Thrift Server启动失败
原因:
14、hue组件安装报错缺依赖待解决
八、服务启动情况勘察

一、部署前准备

1、操作系统
Kylin Linux Advanced Server release V10
2、部署包
cdh_Kylin.tar.gz(此包为CDH内部脚本化后的) CDH版本6.2.0
Kylin-Server-10-SP2-x86-Release-Build09-20210524.iso(用于本地挂载镜像)
3、部署包路径
按照自己的包所在路径获取即可
4、部署组件
    solr 7.4.0
    hbase 2.1.0
    hdfs 3.0.0
    spark 2.4.0
    YARN 3.0.0
    ZooKeeper 3.4.5
5、硬件要求
    5.1服务器RAID配置 拥有三块(及以上)相同大小磁盘
    5.2raid选择raid5模式。
    5.3或者服务器有单独的系统盘,其他所有数据盘都单独做raid0
6.使用软连接 修改/opt/存储目录(若根目录空间不够问题,具体需要链接的目录试情况而定)
 6.1 若/opt 有文件 按照需求考虑是否备份 /opt 目录下文件到数据目录下依据实际情况而定
 	 示例:mv /opt/*   /home/datauser/data

 6.2 新建 /home/cdhuser/opt/
     示例:mkdir  -p /home/cdhuser/opt/
 6.3.将/opt 连接到/home/cdhuser/opt/目录下
     示例: ln -s /home/cdhuser/opt/  /opt
 6.4.将备份的/home/datauser/data/文件 转移到已经软连接的/opt目录下
     示例: mv /home/datauser/data/*  /opt 

二、部署步骤


全部评论: 0

    我有话说: