管理节点云主机高可用 共享文件系统 产品版本 ZStack 3.1.0
管理节点云主机高可用 / 版权声明 版权声明 版权所有 上海云轴信息科技有限公司 2018 保留一切权利 非经本公司书面许可 任何单位和个人不得擅自摘抄 复制本文档内容的部分或全部 并不得以任 何形式传播 商标说明 ZStack商标和其他云轴商标均为上海云轴信息科技有限公司的商标 本文档提及的其他所有商标或注册商标 由各自的所有人拥有 注意 您购买的产品 服务或特性等应受上海云轴公司商业合同和条款的约束 本文档中描述的全部或部 分产品 服务或特性可能不在您的购买或使用范围之内 除非合同另有约定 上海云轴公司对本文 档内容不做任何明示或暗示的声明或保证 由于产品版本升级或其他原因 本文档内容会不定期进行更新 除非另有约定 本文档仅作为使用 指导 本文档中的所有陈述 信息和建议不构成任何明示或暗示的担保 I
管理节点云主机高可用 / 目录 目录 版权声明... I 1 安装与部署...1 1.1 概述...1 1.1.1 共享文件系统高可用... 1 1.1.2 高可用技术... 2 1.1.3 网络拓扑规划... 2 1.2 安装部署... 5 1.2.1 安装操作系统... 5 1.2.2 存储网络... 9 1.2.3 管理网络... 10 1.2.4 云主机数据网络... 11 1.2.5 网络共享存储 NFS/SMP...11 1.2.6 高可用套件... 13 1.2.6.1 功能介绍... 13 1.2.6.2 部署过程... 13 1.2.7 集群升级... 18 1.2.7.1 内嵌服务升级... 18 1.2.7.2 高可用升级... 18 1.2.8 管理节点迁移... 19 1.2.9 配置更新... 19 1.3 其他操作... 21 1.3.1 卸载操作... 21 1.3.2 日志输出... 21 2 高可用测试与恢复... 22 2.1 计划运维... 22 2.1.1 单节点需要维护... 22 2.1.1.1 单节点关闭... 22 2.1.1.1.1 该节点运行非管理节点主机... 22 2.1.1.1.2 该节点运行管理节点主机... 23 2.1.1.2 单节点启动... 24 2.1.2 三节点需要维护... 25 2.1.2.1 三节点关闭... 25 2.1.2.2 三节点启动... 26 2.2 异常处理... 28 2.2.1 单节点异常处理... 28 2.2.1.1 单节点异常掉电... 28 2.2.1.1.1 该节点运行非管理节点主机... 28 2.2.1.1.2 该节点运行管理节点主机... 29 2.2.1.2 单节点网络异常... 31 2.2.1.2.1 该节点运行非管理节点主机... 31 2.2.1.2.2 该节点运行管理节点主机... 32 2.2.2 两节点异常处理... 33 2.3 节点修复... 34 2.3.1 单节点故障修复... 34 2.3.2 两节点故障无法修复... 35 II
管理节点云主机高可用 / 目录 3 命令行使用手册...36 3.1 简介...36 3.2 -h 帮助内容...36 3.3 -v 版本信息... 37 3.4 check-config 配置检查...37 3.5 install -p -c 安装命令... 37 3.6 uninstall 卸载命令...39 3.7 config-sample 样本配置生成... 39 3.8 export-config 当前配置生成... 40 3.9 migrate 迁移命令... 40 3.10 import-config 配置升级... 41 3.11 status 状态信息... 41 3.12 stop 集群关闭... 43 3.13 start 集群启动... 44 3.14 reset-mnvm-password 管理节点主机重置root密码...44 术语表... 45 III
管理节点云主机高可用 / 目录 IV
管理节点云主机高可用 / 1 安装与部署 1 安装与部署 1.1 概述 1.1.1 共享文件系统高可用 ZStack提供基于网络共享存储的管理节点高可用方案 本文档主要介绍NFS/SMP共享文件系统场 景 以下是图 1: 基于NFS/SMP共享文件系统高可用 三节点经典模型 图 1: 基于NFS/SMP共享文件系统高可用 三节点经典模型 共享文件系统高可用方案有以下特点 通过NFS/SMP共享文件系统 由各个节点的固态硬盘 SSD 和机械硬盘 HDD 提供统一的 存储系统 通过虚拟化技术提供云主机服务 并将其数据存放在NFS/SMP共享文件系统中 ZStack管理节点主机以云主机形式运行 管理整个系统的计算 存储和网络资源分配与调度 ZStack共享文件系统高可用方案 最重要的技术亮点是高可用服务 其中 NFS/SMP共享文件系统提供存储级别高可用能力 zsha守护服务提供zstack管理节点主机高可用 ZStack管理节点主机提供业务云主机的高可用 三重高可用技术的保护能有效支撑云主机正常运行 下节将分别介绍其功能和作用 1
管理节点云主机高可用 / 1 安装与部署 1.1.2 高可用技术 NFS/SMP共享文件系统高可用 NFS/SMP共享文件系统可提供存储级别高可用能力 具体请参考相应存储厂商提供的产品资料 管理节点高可用 通过zsha守护服务提供强一致选举机制 保障ZStack管理节点主机的运行状态 在三节点经典模型下 每个节点均运行zsha和consul守护服务 通过两两间建立通信服务 TCP 8300 维护强一致共享数据结构 其运行通信原理如图 2: zsha与consul服务消息通信原理所示 图 2: zsha与consul服务消息通信原理 业务云主机高可用 共享文件系统高可用方案 通过管理节点主机 对HA集群内其它节点进行心跳检测 在网络或节点 失效情况下 将业务云主机自动切换到其他健康的节点运行 能快速恢复业务系统 提高业务系统 的可用性 1.1.3 网络拓扑规划 NFS/SMP共享文件系统高可用方案 支持以下网络流量模型 云主机数据网络 管理网络 存储网络 云主机数据网络 云主机数据网络 即云主机向外提供应用服务的网络 或云主机之间相互沟通的网络 2
管理节点云主机高可用 / 1 安装与部署 该网络也承载云路由三层流量 根据业务负载类型 建议采用双链路1GbE或10GbE以太网 注: 若计划部署的云主机采用单一扁平网络 建议此网络的交换机端口设定Access模式 以 下行文以此为主体描述 若计划部署的云主机考虑多个扁平或云路由网络 建议此网络的交换机端口设定Trunk模 式 以下行文并未提及该场景操作过程 如需了解 请联系ZStack官方技术支持团队 管理网络 管理网络主要承载管理节点主机与物理主机的消息通信 包括任务下发和云主机迁移 考虑到管理网络的业务负载需求 建议采用双链路1GbE或10GbE以太网 存储网络 存储网络主要承载NFS/SMP共享文件系统存储流量和zsha守护服务通信的网络流量 该网络是保 障存储集群 管理节点和业务云主机高可用的关键网络 考虑到存储网络的业务负载需求 建议采用双链路10GbE以太网 注: 建议此网络的交换机端口设定Access模式 Trunk模式亦支持 但本文未描述 查看交换机是否支持巨型帧 Jumbo Frame 若支持则建议开启 全链路MTU设定值 为9000 综上所述 在三节点经典网络中 图 3: 基于NFS/SMP共享文件系统高可用的三节点网络拓扑如 下 图 3: 基于NFS/SMP共享文件系统高可用的三节点网络拓扑 3
管理节点云主机高可用 / 1 安装与部署 管理员根据上述的网络架构图 对网络设备和服务器进行上架并连线 表 1: 服务器节点的配置如下 管理员可根据业务性能需求 合理调配CPU 内存和硬盘的容量配 比 也达到合适的平衡状态 表 1: 服务器节点的配置 配件 型号 数量 CPU Intel(R) Xeon(R) CPU E5-2630 v4 @ 2.20GHz 2 内存 DDR4 16GB 8 主板 双路服务器标准主板 1 总数 阵列卡支持SAS/SATA RAID 0/1 阵列卡 /10 1 支持直通模式 服务器节点 4 固态硬盘 Intel SSD DC S3610 480GB 2 机械硬盘1 SAS HDD 300GB 3.5" 15k rpm 2 机械硬盘2 NL SAS HDD 2TB 3.5" 7.2k rpm 6 千兆网口 以太网1GbE RJ45 4 万兆网口 以太网10GbE SFP+ 2 光电模块 - 光纤HBA卡 - 3个
管理节点云主机高可用 / 1 安装与部署 远程管理 DELL idrac企业版 1 电源 标准电源1100W 2 1.2 安装部署 本章节描述ZStack基于NFS/SMP共享文件系统高可用的安装部署过程 请管理员准备以下必要的 软件包 以便安装部署过程顺利执行 企业版操作系统 管理节点镜像 高可用服务套件 内嵌服务套件 以上安装包最新版本请见这里 1.2.1 安装操作系统 操作步骤 1. 准备 管理员对上架的网络设备和服务器加载电源 手动启动服务器进入BIOS 检查以下内容 激活所有CPU核心和启用超线程功能 设定系统性能为最高性能状态 打开硬件虚拟化VT功能 支持硬件虚拟化技术加速优化功能 进入阵列卡设定 对两块系统硬盘配置RAID1 Mirror 其余硬盘设定直通模式 2. 在UltraISO打开ZStack DVD镜像 ZStack企业版操作系统ISO镜像可通过DVD-RW设备刻录成安装光盘 也可通过UltraISO工 具将把ISO文件刻录到U盘 打开UltraISO 点击文件按钮 选择打开已下载好的ISO文件 如图 4: 在UltraISO打开DVD镜像所示 图 4: 在UltraISO打开DVD镜像 5
管理节点云主机高可用 / 1 安装与部署 3. 写入硬盘镜像 在UltraISO点击启动按钮 选择写入硬盘镜像 如图 5: 在UltraISO写入DVD镜像所示 图 5: 在UltraISO写入DVD镜像 4. 在UltraISO确认写入ZStack企业版DVD镜像 如果系统只插了一个U盘 则默认以此U盘进行刻录和写入 在刻录前 注意备份U盘之前 的内容 其他选项 按照默认设置 无须额外配置 点击写入 6
管理节点云主机高可用 / 1 安装与部署 如图 6: 在UltraISO确认写入ISO镜像所示 图 6: 在UltraISO确认写入ISO镜像 5. 进入安装导航 ISO镜像已经刻录到U盘 此时U盘可用来作为启动盘 支持Legacy模式和UEFI模式引导 管 理员通过安装介质 引导节点启动 并进入安装导航 如图 7: U盘引导界面所示 图 7: U盘引导界面 7
管理节点云主机高可用 / 1 安装与部署 6. 安装操作系统 默认选择Install ZStack开始安装操作系统 在进入安装界面后 已经预先配置默认选项 时区 亚洲东八区 语言 English(United States) 键盘 English(US) 一般情况下管理员无需更改配置 管理员需自行执行硬盘的分区 推荐分区如下 UEFI 模 式 /boot/efi 创建分区500MB /boot 创建分区1GB swap 交换分区 创建分区32GB / 根分区 配置剩下容量 分区配置完后 选择Software Selection进入服务器安装角色候选 选择ZStack Compute Node计算节点模式 确定后回到主界面 点击Begin Installation进行安装 安装过程将会自动进行 管理员需要设定root账户密码 安装结束后 重新引导服务器并拔掉U盘 如安装成功 则服务器重启后进入操作系统登录提 示符 使用root和设置的密码登录到操作系统 注: 管理员可根据自身需要更改密码 8
管理节点云主机高可用 / 1 安装与部署 1.2.2 存储网络 管理员对三节点安装ZStack企业版操作系统后 可对存储网络进行如下设定 节点 网卡 1 网卡 2 聚合接口 网桥 地址 节点1 p5p1 p5p2 bond0 br_bond0 192.168.93.3 /24 节点2 p5p1 p5p2 bond0 br_bond0 192.168.93.4 /24 节点3 p5p1 p5p2 bond0 br_bond0 192.168.93.5 /24 以上是示例数据 管理员请根据具体部署环境的网卡和网络地址进行配置 以节点 1为例 其他节 点配置相似 执行配置命令 # 创建聚合网卡bond0 [root@localhost ~]# zs-bond-lacp -c bond0 # 将网卡p5p1与p5p2均添加到bond0 [root@localhost ~]# zs-nic-to-bond -a bond0 p5p1 [root@localhost ~]# zs-nic-to-bond -a bond0 p5p2 # 配置上述链路聚合后,请管理员在对应的交换机网口配置LACP聚合 # 创建网桥br_bond0,指定网络IP 掩码和网关 [root@localhost ~]# zs-network-setting -b bond0 192.168.93.3 255.255.255.0 192.168.93.1 # 查看聚合端口bond0是否创建成功 [root@localhost ~]# zs-show-network... --------------------------------------------------------------------------------- Bond Name SLAVE(s) BONDING_OPTS --------------------------------------------------------------------------------- bond0 p5p1 miimon=100 mode=4 xmit_hash_policy=layer2+3 p5p2 --------------------------------------------------------------------------------注: p5p1和p5p2加载到bond0后 对应交换机的端口需要配置LACP聚合 否则网络通信将异 常 如果交换机不支持LACP聚合 请联系网络设备厂商更换设备 通过bond0创建网桥后 网桥命名为br_bond0 将提供Ceph存储集群通信和zsha守护服 务通信 关于网桥的IP地址 子网掩码和网关参数 用户需按照实际情况填写 存储网络配置完成后 可通过ping命令进行检测 若配置正确 则三节点的存储网络对应 的IP地址可两两互ping 存储网络配置完成后 随之可配置管理网络 9
管理节点云主机高可用 / 1 安装与部署 1.2.3 管理网络 管理员对三节点安装ZStack企业版操作系统后 可对管理网络进行如下设定 节点 网卡 1 网卡 2 聚合接口 网桥 地址 节点1 eth0 eth1 bond1 br_bond1 172.20.198.3 /24 节点2 eth0 eth1 bond1 br_bond1 172.20.198.4 /24 节点3 eth0 eth1 bond1 br_bond1 172.20.198.5 /24 以上是示例数据 管理员请根据具体部署环境的网卡和网络地址进行配置 以节点 1为例 其他节 点配置相似 执行配置命令 # 创建聚合网卡bond1 [root@localhost ~]# zs-bond-lacp -c bond1 # 将网卡eth0与eth1均添加到bond1 [root@localhost ~]# zs-nic-to-bond -a bond1 eth0 [root@localhost ~]# zs-nic-to-bond -a bond1 eth1 # 配置上述链路聚合后,请管理员在对应的交换机网口配置LACP聚合 # 创建网桥br_bond1,指定网络IP 掩码和网关 [root@localhost ~]# zs-network-setting -b bond1 172.20.198.3 255.255.255.0 172.20.198.1 # 查看聚合端口bond1是否创建成功 [root@localhost ~]# zs-show-network... --------------------------------------------------------------------------------- Bond Name SLAVE(s) BONDING_OPTS --------------------------------------------------------------------------------- bond1 eth0 miimon=100 mode=4 xmit_hash_policy=layer2+3 eth1 --------------------------------------------------------------------------------注: eth0和eth1加载到bond1后 对应交换机的端口需要配置LACP聚合 否则网络通信将异 常 如果交换机不支持 LACP 聚合 请联系网络设备厂商更换设备 通过bond1创建网桥后 网桥命名为br_bond1 将提供管理节点主机与物理主机的消息通 信 关于网桥的IP地址 子网掩码和网关参数 用户需按照实际情况填写 管理网络配置完成后 可通过ping命令进行检测 若配置正确 则三节点的管理网络对应 的IP地址可两两互ping 存储网络和管理网络配置完成后 随之可配置云主机数据网络 10
管理节点云主机高可用 / 1 安装与部署 1.2.4 云主机数据网络 管理员对三节点安装ZStack企业版操作系统后 可对云主机数据网络进行如下设定 节点 网卡 1 网卡 2 聚合接口 网桥 地址 节点1 em1 em2 bond2 - - 节点2 em1 em2 bond2 - - 节点3 em1 em2 bond2 - - 以上是示例数据 管理员请根据具体部署环境的网卡和网络地址进行配置 以节点1为例 其他节 点配置相似 执行配置命令 # 创建聚合网卡bond2 [root@localhost ~]# zs-bond-lacp -c bond2 # 将网卡em1与em2均添加到bond2 [root@localhost ~]# zs-nic-to-bond -a bond2 em1 [root@localhost ~]# zs-nic-to-bond -a bond2 em2 # 配置上述链路聚合后,请管理员在对应的交换机网口配置LACP聚合 # 云主机数据网络,无需创建网桥 # 查看聚合端口bond2是否创建成功 [root@localhost ~]# zs-show-network... --------------------------------------------------------------------------------- Bond Name SLAVE(s) BONDING_OPTS --------------------------------------------------------------------------------- bond2 em1 miimon=100 mode=4 xmit_hash_policy=layer2+3 em2 --------------------------------------------------------------------------------- 注: em1和em2加载到bond2后 对应交换机的端口需要配置LACP聚合 否则网络通信将异 常 如果交换机不支持LACP聚合 请联系网络设备厂商更换设备 云主机数据网络配置完成后 随之可安装NFS/SMP网络共享存储 1.2.5 网络共享存储 NFS/SMP 建议用户在部署NFS/SMP共享存储服务之前 先查看当前存储服务器系统的内核版本 同一个NFS /SMP软件在不同版本 内核之间是有差异的 部署方法也随之不同 具体请参考相应存储厂商提供 的产品资料 ZStack要求NFS/SMP服务器端提供以下三个共享目录 your_nfs/smp_server_ip:/share/mngt 用于存放管理节点镜像 your_nfs/smp_server_ip:/share/bs 11
管理节点云主机高可用 / 1 安装与部署 用于存放镜像服务器模板 your_nfs/smp_server_ip:/share/ps 主存储 用于存放云主机数据 三节点客户端均需挂载上述三个共享目录 # 分别登录三节点 执行以下命令 将共享目录your_NFS/SMP_server_IP:/share/mngt分别挂载 到三节点本地目录/opt/smp/mngt/ [root@localhost ~]# mkdir -p /opt/smp/mngt [root@localhost ~]# mount -t nfs your_nfs/smp_server_ip:/share/mngt /opt/smp/mngt/ # 分别登录三节点 执行以下命令 将共享目录your_NFS/SMP_server_IP:/share/bs分别挂载到 三节点本地目录/opt/smp/bs/ [root@localhost ~]# mkdir -p /opt/smp/bs [root@localhost ~]# mount -t nfs your_nfs/smp_server_ip:/share/bs /opt/smp/bs/ 注: 对于NFS 主存储共享目录your_NFS_server_IP:/share/ps会自动挂载到三节点本地目 录 该本地目录由ZStack生成 对于SMP 主存储共享目录your_SMP_server_IP:/share/ps需要手动挂载到三节点本地目 录/opt/smp/ps/ # 分别登录三节点 执行以下命令 将共享目录your_SMP_server_IP:/share/ps分别挂载到三节 点本地目录/opt/smp/ps/ [root@localhost ~]# mkdir -p /opt/smp/ps [root@localhost ~]# mount -t nfs your_smp_server_ip:/share/bs /opt/smp/ps/ 设置开机自动挂载 # 将mount命令写在rc.local文件中 [root@localhost ~]# chmod +x /etc/rc.local [root@localhost ~]# vim /etc/rc.local # 以NFS为例... touch /var/lock/subsys/local mount -t nfs 172.20.14.112:/share/mngt /opt/smp/mngt/ mount -t nfs 172.20.14.112:/share/bs /opt/smp/bs/... NFS/SMP共享文件系统挂载到三节点后 随之可通过共享存储快速部署高可用 12
管理节点云主机高可用 / 1 安装与部署 1.2.6 高可用套件 1.2.6.1 功能介绍 ZStack基于网络共享存储场景提供了高可用套件 保障ZStack管理服务长期处于在线运行 与业务 云主机高可用机制相结合 最大程度降低物理设备异常情况下的云主机失效带来的业务中断风险 高可用套件 是基于Consul开发的强一致性消息通信组件 部署在高可用节点集群中 部署数量 满足2N+1条件 在三节点经典模型中 能容忍1个节点的离线或失效 保证ZStack管理服务正常运 行 在部署高可用之前 确保每个节点均安装 libvirt 和 qemu-kvm-ev 软件包 # 每个节点均安装libvirt和qemu-kvm-ev软件包 [root@localhost ~]# yum -y --disablerepo=* --enablerepo=zstack-local,qemu-kvm-ev \ install libvirt qemu-kvm-ev qemu-img-ev 1.2.6.2 部署过程 操作步骤 1. 导入镜像 管理员已经获得ZStack管理节点镜像(QCOW2 格式) 通过共享目录 将镜像快速传输到三节 点 # 登录节点1 将镜像拷贝到本地目录/opt/smp/mngt/ 并命名为mnvm.img [root@localhost ~]# cp ZStack-Enterprise-Management-Server-3.x.qcow2 /opt/smp/mngt/ mnvm.img # 拷贝完成后 由于共享目录机制 可在三节点本地目录/opt/smp/mngt/均查看到该镜 像mnvm.img 2. 编写配置 管理员完成ZStack管理服务的镜像导入后 接下来编辑ZStack高可用套件的初始化配置文 件 执行以下命令 生成并编写配置文件 # 生成的样本配置文件临时保存在/tmp/sample.FileConf.config.json,用户可自行拷贝到其它 目录 [root@localhost ~]# chmod +x ZStack-Enterprise-HA-Suite-3.x.bin [root@localhost ~]#./ZStack-Enterprise-HA-Suite-3.x.bin config-sample FileConf # 编辑样本配置文件 [root@localhost ~]# cp /tmp/sample.fileconf.config.json /tmp/config.json [root@localhost ~]# vim /tmp/config.json... { "Node": [ "192.168.255.205 nfs-1", 13
管理节点云主机高可用 / 1 安装与部署 "192.168.255.221 nfs-2", "192.168.255.183 nfs-3" ], //请修改三节点的IP地址以及主机名称 "MemorySizeInGB": 8, //管理节点主机的内存配置,最小值为8GB "CPU": 4, //管理节点主机的CPU数目,最小值为4核 "Type": "FileConf", //配置文件的类型 "MonAddrs": null, //无需设置监控节点 "ChronyServers": [ "192.168.255.205" ], //请根据实际情况设置chrony时间服务器IP地址 "PoolName": "", //管理节点主机所在的存储池名 "ImageFolder": "/opt/smp/mngt/", //管理节点镜像存放的本地目录 "DNS": [ "172.20.198.1", //管理节点主机的私网DNS信息 "223.5.5.5" //管理节点主机的公网DNS信息 ], "Network": [ { "Bridge": "br_zsn0", //管理节点主机的网卡所挂接的网桥名称 "MacAddress": "02:98:54:4b:a5:c0", //管理节点主机的网卡MAC地址,单次随机生成 "Ipaddr": "172.20.198.3@nfs-1, 172.20.200.3@nfs-2, 172.20.210.3@nfs-3", //管理节 点主机的IP地址 "Netmask": "255.255.255.0@nfs-1, 255.255.255.0@nfs-2, 255.255.255.0@nfs-3", //管 理节点主机的掩码 "Gateway": "172.20.198.1@nfs-1, 172.20.200.1@nfs-2, 172.20.210.1@nfs-3", //管理 节点主机的网关 //管理节点主机的IP地址以及对应掩码和网关支持per-node格式,可实现管理节点主机跨 网段启动 "IsMgmt": true, //管理网络设置 本示例设为true "IsDefRoute": false //默认路由配置 本示例设为false }, { "Bridge": "br_zsn1", //管理节点主机的网卡所挂接的网桥名称 "MacAddress": "f6:75:d8:5d:73:73", //管理节点主机的网卡MAC地址,单次随机生成 "Ipaddr": "203.114.54.10", //管理节点主机的IP地址 "Netmask": "255.255.255.0", //管理节点主机的掩码 "Gateway": "203.114.54.1", //管理节点主机的网关 "IsMgmt": false, //管理网络设置 本示例设为false "IsDefRoute": true //默认路由配置 本示例设为true } ], "ConsoleProxyOverriddenIP": "" //ZStack管理服务的控制台服务地址,支持per-node格式 "AllowResetRootPassword": false //默认为false;设为true时,管理节点主机才允许重 置root密码 }... 管理员需要按照具体部署场景 修改上述参数 注: CPU和MemorySizeInGB设置值推荐如下 14
管理节点云主机高可用 / 1 安装与部署 场景 配置 中小规模 CPU核4个/内存8GB 备注 管理小于100个物理主机 与1000个云主机 管理大于100个物理主 CPU核8个/内存16GB 特大规模 机与1000 个云主机内 管理小于1000个物理主 机与10000个云主机 CPU核12个/内存32GB 超大规模 管理大于1000个物理主机 与10000个云主机 关于管理节点主机的网卡MAC地址 需确保在二层网络里是唯一的 MonAddrs设置为默认null 无需设置监控节点 关于ChronyServers的设置 ChronyServers可使用三存储节点作为时间源 示例如下 "ChronyServers": [ "192.168.255.205" ], 管理员也可自行设置chrony时间源 示例如下 "ChronyServers": [ "time1-7.aliyun.com " ], ChronyServers中指定的时间服务器不可对自身做时间同步 注: 补充说明 对于未部署管理节点高可用服务的场景 默认情况下管理节点作 为NTP时间源 若希望指定时间服务器 方法如下 在管理节点的zstack.properties文件中添加 chrony.serverip.0 = xx.xx.xx.xx # xx.xx.xx.xx为时间服务器ip地址,可为管理节点ip地址,也可自行指定其 它chrony时间源 重连物理主机生效 chrony.serverip.0中指定的时间服务器不可对自身做时间同步 管理节点主机跨网段启动 15
管理节点云主机高可用 / 1 安装与部署 在IsMgmt为true情况下 管理节点的IP地址 以及对应的掩码 网关均设置为pernode格式 可实现管理节点主机跨网段启动 示例如下 "Network": [ {... "Ipaddr": "172.20.198.3@nfs-1, 172.20.200.3@nfs-2, 172.20.210.3@nfs-3", "Netmask": "255.255.255.0@nfs-1, 255.255.255.0@nfs-2, 255.255.255.0 @nfs-3", "Gateway": "172.20.198.1@nfs-1, 172.20.200.1@nfs-2, 172.20.210.1@nfs-3 ", "IsMgmt": true,... }, ConsoleProxyOverriddenIP也支持per-node格式 当管理节点主机跨网段启动 后 可打开相应管理服务控制台 管理节点主机允许重置root密码为系统默认值 即password 在AllowResetRootPassword为true情况下 管理节点主机允许重置root密码为系 统默认值 即password 详情请参考配置更新章节 3. HA初始化 在上一节中,管理员已完成对config.json配置文件的编写 接下来可执行高可用套件的初始化 执行以下命令 # 为三个节点安装高可用套件 [root@localhost ~]#./ZStack-Enterprise-HA-Suite-3.x.bin install \ -p password -c /tmp/config.json 注: 安装命令中 -p 传递三个节点账号root密码 密码里包含shell的特殊字符时 需要进行转义 建议首次初始化时 对三个节点设置一致密码 安装完成后 基于安全考虑可按 需修改或关闭密码登陆 /tmp/config.json为填写完成的配置文件路径 需与上述步骤中真实保存的文件绝对 路径保持一致 高可用套件初始化完成后 可执行以下命令查看集群状态: # 查看 HA 集群状态 [root@nfs-1 ~]# zsha status >>>MN-VM Running On 192.168.255.205 : running 16
管理节点云主机高可用 / 1 安装与部署 >>>Last MN-VM Start Record >>>ZStack HA Services Running On 192.168.255.205 nfs-1 192.168.255.221 nfs-2 192.168.255.183 nfs-3 >>>Consul Members Node Address Status Type Build Protocol 192.168.255.205 192.168.255.205:8301 alive server 0.7.2 192.168.255.221 192.168.255.221:8301 alive server 0.7.2 192.168.255.183 192.168.255.183:8301 alive server 0.7.2 DC 2 2 2 dc1 dc1 dc1 >>>Management Node IP 172.20.198.3 >>>Public Network IP 203.114.54.10 >>>Checking Host I/O done. 至此 ZStack基于NFS/SMP共享存储的高可用云管理平台安装完成 当所有节点正常加入并开始运行高可用服务程序后 将选择其中一个节点运行管理节点主 机 高可用保护机制开始正常运转 ZStack管理节点也开始正常提供服务 4. 云平台初始化 管理员可通过浏览器访问 ZStack管理服务界面 http://manage-server-ip:5000 并完成云 平台初始化操作 如登陆界面所示 图 8: 登录界面 17
管理节点云主机高可用 / 1 安装与部署 初始化的操作说明 具体参照ZStack官网文档 用户手册 初始化过程中 添加镜像服务器时 URL请输入 your_nfs/smp_server_ip:/share/bs 初始化过程中 添加主存储时 URL请输入 your_nfs/smp_server_ip:/share/ps 1.2.7 集群升级 1.2.7.1 内嵌服务升级 管理员获得新的内嵌服务套件后 可用于升级当前高可用环境的ZStack管理节点主机 请管理员将新的内嵌服务套件上传到ZStack管理节点主机的目录/root/ 上传完成后 登陆ZStack管 理节点主机 执行命令 # 登陆ZStack管理节点主机,执行内嵌服务升级操作 [root@managementnode ~]# chmod +x ZStack-Enterprise-HA-Guest-Agent-3.x.bin [root@managementnode ~]#./ZStack-Enterprise-HA-Guest-Agent-3.x.bin -i # 升级完成后,检查版本信息 [root@managementnode ~]# zin -v App Version: 1.5.6.0 Build Date: Fri Jul 28 10:37:49 GMT-8 2017 Branch Name: (detached Commit ID: c7dc57a012f5bae01eafaea7455bf5784007c172 1.2.7.2 高可用升级 管理员获得新的高可用管理套件后 可用于升级当前的高可用集群环境 请管理员登陆其中一个节 点执行命令 # 导出当前的高可用集群配置信息 [root@localhost ~]# zsha export-config 18
管理节点云主机高可用 / 1 安装与部署 output config json file to /tmp/current.config.json # 若新版本升级时 需要增加/删除相关配置信息 请依照新版本的编写配置说明进行修改 再执 行zsha export-config进行导出 # 关闭集群内管理节点主机以及所有zsha服务 [root@localhost ~]# zsha stop # 使用新的高可用套件升级管理三个节点 [root@localhost ~]# chmod +x ZStack-Enterprise-HA-Suite-3.x.bin [root@localhost ~]#./ZStack-Enterprise-HA-Suite-3.x.bin install \ -p password -c /tmp/current.config.json 1.2.8 管理节点迁移 ZStack高可用集群在正常运行环境下 若管理员需要临时关闭一个节点进行维护 需在ZStack管理 界面设定物理主机为维护模式 然后 根据该节点是否运行ZStack管理节点主机 进行对应操作 若该节点并非运行ZStack管理节点主机 则可以执行关机等维护操作 若该节点运行ZStack管理节点主机 则需要执行手动热迁移操作 # 登陆到其中一个节点,执行对ZStack管理节点主机迁移至目标节点 [root@localhost ~]# zsha migrate target ip # 用户也可直接填写目标节点的主机名称执行迁移操作 [root@localhost ~]# zsha migrate target hostname 注: 其中target ip为高可用集群中一个正常节点的ip地址 该地址必须是高可用集群内的IP地 址 否则无法通过检查 将会报错并且不能执行迁移操作 同样的 其中target hostname必须为高可用集群中一个正常节点的主机名称 如果目标节点指定为正在运行管理节点主机的HA节点 将会报错 报错格式如下 错误:Requested operation is not valid: domain 'ZStack Management Node VM' is already active 迁移过程需消耗一定时间 迁移过程将会显示进度状态 如果网络为万兆网络且状况良 好 一般可在数秒内完成 1.2.9 配置更新 管理节点高可用机制将全局配置信息存储在Consul KV数据库中 如果需要修改诸如管理节点主机 配置 管理节点主机网络配置时 执行以下命令即可 # 导出当前的高可用集群配置信息 19
管理节点云主机高可用 / 1 安装与部署 [root@localhost ~]# zsha export-config # 修改导出文件的配置 # 更新三个节点的配置信息 [root@localhost ~]# zsha import-config /tmp/current.config.json # 配置更新后,请登录管理节点主机执行关机操作,高可用服务将会触发启动 [root@managementnode ~]# halt -p 注: 修改后的/tmp/current.config.json格式 应与原配置文件格式相同 如需修改节点的IP地址 请按照高可用套件的安装过程执行 MemorySizeinGB和CPU管理节点主机性能配置可以按需修改 但内存不可低于8G CPU不可低于4核心 Bridge为三个节点提供给管理节点主机使用的网桥名称 只有当该网桥名称发生变化 时 才应修改此参数 NetworkInterface为管理节点主机内部的网络配置信息 可以按需修改 由于管理节点镜像封装了qemu-guest-agent服务 管理节点主机支持修改root密码 若管 理员忘记当前root密码 可通过执行reset-MNVM-password命令重置root密码为系统默认 值 即password 但前提是AllowResetRootPassword需设置为true 假定管理员使用原root密码登录管理节点主机 希望修改root密码 [root@managementnode ~]# passwd root Changing password for user root. New password: Retype new password: passwd: all authentication tokens updated successfully. 假定管理员忘记当前root密码 希望重置root密码为系统默认值 即password # 登录到其中一个节点 导出当前的高可用集群配置信息 [root@localhost ~]# zsha export-config output config json file to /tmp/current.config.json # 修改导出文件的配置,将AllowResetRootPassword设置为true [root@localhost ~]# vim /tmp/current.config.json... {... "AllowResetRootPassword": true //默认为false;设为true时,管理节点主机才允许重 置root密码 }... # 更新三个节点的配置信息,按照高可用套件的安装过程执行 [root@localhost ~]# zsha install -p password -c /tmp/current.config.json # 执行以下命令,重置root密码为系统默认值 即password [root@localhost ~]# zsha reset-mnvm-password Reset MNVM root password on nodex IP //nodex IP为MNVM所在节点的IP 20
管理节点云主机高可用 / 1 安装与部署 Password set successfully for root in 173de36b-4a5d-458e-a5e3-9a99584551ef 1.3 其他操作 1.3.1 卸载操作 管理员若需卸载ZStack高可用套件 可执行以下命令 # 登陆到其中一个节点,执行关闭高可用套件服务并停止ZStack管理节点主机 [root@localhost ~]# zsha stop # 确认管理节点主机已关闭,避免导致数据损坏或丢失 [root@localhost ~]# zsha status # 登陆到三个节点后,执行卸载高可用相关服务 [root@localhost ~]# zsha uninstall 执行卸载后 ZStack管理节点主机数据仍然保留在NFS/SMP共享文件系统里 管理员可保留数 据 亦可删除该镜像 若需删除镜像数据和存储 可参考导入镜像章节关于删除数据的内容 1.3.2 日志输出 ZStack高可用管理套件部署后 其运行状态日志信息存放在目录/var/log/z/ 高可用套件守护服务在运行状态时 会产生详细的日志内容,并进行按天和容量进行切割 管理员需 关注ZStack管理节点主机的系统日志分区 /var/log/ 空间状况 保证预留一定量的存储空间 根 据运行估算 每年产生日志10+GB 21
管理节点云主机高可用 / 2 高可用测试与恢复 2 高可用测试与恢复 2.1 计划运维 2.1.1 单节点需要维护 2.1.1.1 单节点关闭 ZStack基于NFS/SMP共享文件系统的高可用集群由三个节点A B C构建 在正常运行环境 下 若管理员需要临时关闭某个节点进行维护 该节点运行非管理节点主机 该节点运行管理节点主机 2.1.1.1.1 该节点运行非管理节点主机 背景信息 需要关闭节点A或C进行维护 如图 9: 基于NFS/SMP共享文件系统的高可用集群 经典三节点示例 图所示 图 9: 基于NFS/SMP共享文件系统的高可用集群 经典三节点示例图 以关闭节点A为例 操作步骤 1. 进入物理主机A的维护模式 通过账户admin登录到ZStack云管理平台 将节点A的物理主机进入维护模式 22
管理节点云主机高可用 / 2 高可用测试与恢复 如图 10: 维护物理主机A所示 图 10: 维护物理主机A 2. 对节点A进行shutdown关机操作 3. 对节点A下电后进行维护 2.1.1.1.2 该节点运行管理节点主机 背景信息 需要关闭节点B进行维护 如图 11: 基于NFS/SMP共享文件系统的高可用集群 经典三节点示例图所 示 图 11: 基于NFS/SMP共享文件系统的高可用集群 经典三节点示例图 操作步骤 1. 管理员进行手动操作 将管理节点迁移至其他健康节点A或C 将ZStack管理节点主机迁移至目标节点 # 登陆管理节点主机,执行对管理节点主机迁移至目标节点 [root@managementnode ~]# zsha migrate target ip # 用户也可直接填写目标节点的主机名称执行迁移操作 23
管理节点云主机高可用 / 2 高可用测试与恢复 [root@managementnode ~]# zsha migrate target hostname 2. 进入物理主机B的维护模式 通过账户admin登录到ZStack云管理平台 将节点B物理主机进入维护模式 如图 12: 维护物理主机B所示 图 12: 维护物理主机B 3. 对接点B进行shutdown关机操作 4. 对节点B下电后进行维护 2.1.1.2 单节点启动 背景信息 ZStack集群由三个节点A B C构建 若某个节点临时关闭维护完成后 需要启动该节点 操作步骤 1. 未启动的该节点通电后 通过手动或IPMI启动服务器 2. 等待节点启动 成功引导操作系统 3. 设置物理节点为启用状态 通过账户admin登录到ZStack云管理平台 设置该节点为启用状态 如图 13: 启用物理主机所 示 图 13: 启用物理主机 24
管理节点云主机高可用 / 2 高可用测试与恢复 2.1.2 三节点需要维护 2.1.2.1 三节点关闭 背景信息 ZStack基于NFS/SMP共享文件系统的高可用集群由三个节点A B C构建 若管理员需要临时关 闭整个集群进行维护 操作步骤 1. 关闭云主机高可用 通过账户admin登录到ZStack云管理平台 进入设置 > 全局设置 将云主机高可用全局开关的 值设置为false 停止高可用心跳检测 如图 14: 关闭云主机高可用所示 图 14: 关闭云主机高可用 2. 将三台物理主机设置为维护模式 将三台物理主机均设置为维护模式 批量停止云主机 如图 15: 维护物理主机集群所示 图 15: 维护物理主机集群 25
管理节点云主机高可用 / 2 高可用测试与恢复 3. 通过ssh工具登陆到其中一个节点 执行zsha stop命令 登录到其中一个节点 执行关闭高可用套件服务并停止管理节点主机 4. 对三个节点进行shutdown关机操作 5. 三个节点下电后 维护整个集群 2.1.2.2 三节点启动 背景信息 ZStack基于NFS/SMP共享文件系统的高可用集群由三个节点A B C构建 若整个集群临时关闭 维护完成后 需要启动该集群 操作步骤 1. 三个节点通电后 通过手动或IPMI启动服务器 2. 操作系统启动引导完成 即可通过ssh工具登陆到三个节点 3. 执行zsha start命令启动高可用服务套件 登录到其中一个节点 执行启动高可用套件服务并启动管理节点主机 4. 检查运行状态 通过zsha status检查状态是否健康 并关注管理节点主机是否正常运行 [root@localhost ~]# zsha status [root@localhost ~]# zsha status >>>MN-VM Running On 172.20.14.215 : running >>>Last MN-VM Start Record >>>ZStack HA Services Running On 172.20.13.239 : nfs-1 172.20.14.215 : nfs-2 172.20.14.251 : nfs-3 5. 设置节点为启用状态 26
管理节点云主机高可用 / 2 高可用测试与恢复 通过账户admin登录到ZStack云管理平台 依次设置三个节点为启用状态 如图 16: 启用物理 主机所示 图 16: 启用物理主机 6. 开启云主机高可用 通过账户admin登录到ZStack云管理平台 进入设置 > 全局设置 将云主机高可用全局开关的 值设置为true 停止高可用心跳检测 如图 17: 开启云主机高可用所示 图 17: 开启云主机高可用 注: 高可用级别为NeverStop的云主机将会自动恢复 高可用级别为None的云主机需管理员手动启动 或通知云主机所有者执行启动 27
管理节点云主机高可用 / 2 高可用测试与恢复 2.2 异常处理 如果节点出现异常掉电/断网 请参考本章异常处理进行故障恢复 如果节点出现损坏 系统崩 溃 磁盘损坏 数据丢失 请参考下章节点修复进行故障修复 如果依然无法解决问题 请联 系ZStack官方技术支持团队 2.2.1 单节点异常处理 2.2.1.1 单节点异常掉电 ZStack基于NFS/SMP共享文件系统的高可用集群由三个节点A B C构建 在正常运行环境 下 若其中某个节点突然断电 该节点运行非管理节点主机 该节点运行管理节点主机 2.2.1.1.1 该节点运行非管理节点主机 背景信息 节点A或C异常掉电需恢复 如图 18: 基于NFS/SMP共享文件系统的高可用集群 经典三节点示例 图所示 图 18: 基于NFS/SMP共享文件系统的高可用集群 经典三节点示例图 操作步骤 1. 该异常节点A上电后 通过手动或IPMI方式启动服务器 2. 自动引导加载操作系统 确认是否启动成功 3. 检查异常节点高可用状态 28
管理节点云主机高可用 / 2 高可用测试与恢复 执行zsha status命令 检查该异常节点的高可用服务是否正常 [root@localhost ~]# zsha status >>>MN-VM Running On 172.20.14.215 : running >>>Last MN-VM Start Record >>>ZStack HA Services Running On 172.20.13.239 : nfs-1 172.20.14.215 : nfs-2 172.20.14.251 : nfs-3 4. 检查物理主机连接状态 通过账号admin登陆ZStack云管理平台 检查该异常物理主机连接状态是否正常 如图 19: 物 理主机连接状态界面所示 图 19: 物理主机连接状态界面 2.2.1.1.2 该节点运行管理节点主机 背景信息 节点B异常掉电需恢复 如图 20: 基于NFS/SMP共享文件系统的高可用集群 经典三节点示例图所 示 图 20: 基于NFS/SMP共享文件系统的高可用集群 经典三节点示例图 29
管理节点云主机高可用 / 2 高可用测试与恢复 操作步骤 1. 检查管理节点主机高可用是否已触发 通过ssh工具登陆到正在运行的节点A或C 执行zsha status命令检查管理节点主机是否正常运 行 若正常运行 代表高可用套件已触发高可用切换 [root@localhost ~]# zsha status >>>MN-VM Running On 172.20.14.251 : running >>>Last MN-VM Start Record 2. 该异常节点B上电后 通过手动或IPMI方式启动服务器 3. 自动引导加载操作系统 确认是否启动成功 4. 检查异常节点高可用状态 执行zsha status命令 检查该异常节点的高可用服务是否正常 [root@localhost ~]# zsha status >>>MN-VM Running On 172.20.14.251 : running >>>Last MN-VM Start Record >>>ZStack HA Services Running On 172.20.13.239 : nfs-1 172.20.14.215 : nfs-2 172.20.14.251 : nfs-3 5. 检查物理主机连接状态 通过账号admin登陆ZStack云管理平台 检查该异常物理主机连接状态是否正常 如图 21: 物 理主机连接状态界面所示 图 21: 物理主机连接状态界面 30
管理节点云主机高可用 / 2 高可用测试与恢复 2.2.1.2 单节点网络异常 ZStack基于NFS/SMP共享文件系统的高可用集群由三个节点A B C构建 在正常运行环境 下 若其中某个节点网络异常 该节点运行非管理节点主机 该节点运行管理节点主机 注: 本手册中 网络故障 特指管理与存储网络的故障 云主机数据网络故障 不会触发高 可用切换 本手册中 网络故障 特指两个链路均故障的情况 单链路故障 不会影响节点之间的 通信 2.2.1.2.1 该节点运行非管理节点主机 背景信息 节点A或C网络异常需恢复 如图 22: 基于NFS/SMP共享文件系统的高可用集群 经典三节点示例 图所示 图 22: 基于NFS/SMP共享文件系统的高可用集群 经典三节点示例图 以节点A网络异常为例 操作步骤 1. 检查交换机运行状态 确认网络异常节点A的端口指示灯常亮或闪烁 2. 通过ssh登录其他正在运行的节点B或C上 检查网络异常节点A高可用状态 执行zsha status 检查网络异常节点A的高可用服务是否正常 [root@localhost ~]# zsha status 31
管理节点云主机高可用 / 2 高可用测试与恢复 >>>MN-VM Running On 172.20.14.215 : running >>>Last MN-VM Start Record >>>ZStack HA Services Running On 172.20.13.239 : nfs-1 172.20.14.215 : nfs-2 172.20.14.251 : nfs-3 3. 查看物理主机连接状态 通过账户admin登录ZStack云管理平台检查网络异常物理主机连接状态 如果连接正常 则网 络异常节点A已恢复 如图 23: 物理主机连接状态界面所示 图 23: 物理主机连接状态界面 2.2.1.2.2 该节点运行管理节点主机 背景信息 节点B网路异常需恢复 如图 24: 基于NFS/SMP共享文件系统的高可用集群 经典三节点示例图所 示 图 24: 基于NFS/SMP共享文件系统的高可用集群 经典三节点示例图 操作步骤 1. 检查管理节点主机高可用是否已触发 32
管理节点云主机高可用 / 2 高可用测试与恢复 通过ssh工具登陆到正在运行的节点A或C上 执行zsha status检查管理节点主机是否正常运 行 若正常运行 代表高可用套件已触发高可用切换 [root@localhost ~]# zsha status >>>MN-VM Running On 172.20.14.251 : running >>>Last MN-VM Start Record 2. 检查交换机运行状态 确认网络异常节点B的端口指示灯常亮或闪烁 3. 检查网络异常节点高可用状态 执行zsha status检查网络异常节点的高可用服务是否正常 [root@localhost ~]# zsha status >>>MN-VM Running On 172.20.14.251 : running >>>Last MN-VM Start Record >>>ZStack HA Services Running On 172.20.13.239 : nfs-1 172.20.14.215 : nfs-2 172.20.14.251 : nfs-3 4. 检查物理主机连接状态 通过账户admin登录ZStack云管理平台检查网络异常物理主机连接状态 如果连接正常 则网 络异常节点B已恢复 如图 25: 物理主机连接状态界面所示 图 25: 物理主机连接状态界面 2.2.2 两节点异常处理 背景信息 ZStack基于NFS/SMP共享文件系统的高可用集群由三个节点A B C构建 在正常运行环境 下 若其中两个节点均断电或网络异常 33
管理节点云主机高可用 / 2 高可用测试与恢复 操作步骤 1. 两异常节点上电后通过手动或IPMI方式启动 2. 两异常节点加载操作系统 确认是否启动成功 3. 检查两异常节点高可用状态 通过zsha status检查两异常节点的高可用服务是否正常 检查管理节点主机是否正常运行 [root@localhost ~]# zsha status >>>MN-VM Running On 172.20.14.215 : running >>>Last MN-VM Start Record >>>ZStack HA Services Running On 172.20.13.239 : nfs-1 172.20.14.215 : nfs-2 172.20.14.251 : nfs-3 4. 查看物理主机连接状态 通过admin账户登陆ZStack云管理平台 检查两异常物理主机连接状态 如果连接正常 则两 网络异常节点已恢复 如图 26: 物理主机连接状态界面所示 图 26: 物理主机连接状态界面 2.3 节点修复 2.3.1 单节点故障修复 背景信息 ZStack基于NFS/SMP共享文件系统的高可用集群由三个节点A B C构建 若其中某个节点损坏 后需要执行修复 操作步骤 1. 调配备用服务器 使得硬件规格与故障节点相近 34
管理节点云主机高可用 / 2 高可用测试与恢复 2. 参考本文档安装部署章节 安装基础操作系统 安装完成后 配置root的密码和网络信息与故障 节点一致 3. 参考本文档安装部署章节 安装高可用套件 在健康节点 导出当前的高可用集群配置信息 [root@localhost ~]# zsha export-config output config json file to /tmp/current.config.json 注: 若新版本升级时 需要增加/删除相关配置信息 请依照新版本发布说明 4. 查看管理节点主机状态 通过zsha status检查高可用服务套件运行状态 以及管理节点主机状态 [root@localhost ~]# zsha status >>>MN-VM Running On 172.20.14.215 : running >>>Last MN-VM Start Record >>>ZStack HA Services Running On 172.20.13.239 : nfs-1 172.20.14.215 : nfs-2 172.20.14.251 : nfs-3 5. 对置换节点进行重连操作 通过admin账户登录ZStack云管理平台 对置换节点执行重连操作 如图 27: 重连物理主机界 面所示 图 27: 重连物理主机界面 2.3.2 两节点故障无法修复 由于ZStack高可用三节点模型 只支持容忍一个节点发生故障 对于两节点损坏情况无法修复 若 需满足两个节点可修复的场景 则需构建至少5个节点的集群 35
管理节点云主机高可用 / 3 命令行使用手册 3 命令行使用手册 3.1 简介 zsha是zstack针对管理节点高可用场景设计的命令 帮助用户快速完成该场景下的多种操作 zsha下有多条子命令 本文档将基于共享文件系统 NFS/SMP 的管理节点高可用场景对zsha每 条子命令的作用和使用方法进行说明 3.2 -h 帮助内容 描述 显示帮助 可查看zsha全部子命令 [root@localhost ~]# zsha -h zsha is a proprietary, high-availability suite that protects ZStack management services from running online for long periods of time. usage: zsha [-h] [-v] All sub-commands install [-p] ROOT-PASSWORD [-c] CONFIGURATION-FILE-PATH Install Mode, Need a root password for all HA nodes, Need a configuration file path uninstall --yes-i-really-really-mean-it uninstall from all nodes check-config CONFIGURATION-FILE-PATH check configuration file config-sample [CephConf FileConf] output sample config json file to /tmp/sample.cephconf.config.json or /tmp/sample.fileconf.config.json export-config output current config json file to /tmp/current.config.json import-config CONFIGURATION-FILE-PATH update configuration to HA cluster migrate xxx.xxx.xxx.xxx migrate to target HA host, ip or hostname should be provided status show status status-conf show status with current configuration stop close MN-VM and all zs-ha services in cluster, consul will continue to operate start start all zs-ha services in cluster, if consul service is stopped, it will also be started optional arguments: -h show this help message 36
管理节点云主机高可用 / 3 命令行使用手册 -v show version, print execution details 3.3 -v 版本信息 描述 查看版本信息 包括版本号 编译日期 Branch Name和Commit ID [root@localhost ~]# zsha -v App Version: 1.5.6.0 Build Date: Fri Jul 28 10:37:49 GMT-8 2017 Branch Name: (detached Commit ID: c7dc57a012f5bae01eafaea7455bf5784007c172 3.4 check-config 配置检查 描述 检查配置文件格式和内容 该检查在安装和更新时也会被执行 其中ConsoleProxyOverriddenIP用户可按需填写 也可不填 仅检查是否为有效的IPv4格式 其 他各个字段必须填写 相应检查格式和内容 管理节点主机的CPU数目和内存必须满足最低要求 可按需增加 使用方法 参数 CONFIGURATION-FILE-PATH 介绍 示例 用户需填写完整的配置文件路 zsha check-config /tmp/current 径.config.json [root@localhost ~]# zsha check-config /tmp/current.config.json config file check pass 3.5 install -p -c 安装命令 描述 安装命令 对HA集群内所有节点执行安装操作 要求HA集群内所有节点使用同一个password 用 户需填写该password 以及配置文件路径 37
管理节点云主机高可用 / 3 命令行使用手册 使用方法 参数 介绍 示例 要求HA集群内所有节点使用 同一个password 用户需填写 -p ROOT-PASSWORD 该password 注: 密码里包含shell的./ZStack-Enterprise-HA-Suite-3.x.bin install -p password 特殊字符时 需要进行 转义 -c CONFIGURATION-FILE- 用户需填写完整的配置文件路./ZStack-Enterprise-HA-Suite-3 PATH 径.x.bin install -c /tmp/config.json [root@localhost ~]#./ZStack-Enterprise-HA-Suite-3.x.bin install -p password -c /tmp/config.json config file check pass All nodes connect success. check environment for 172.20.13.239 File /opt/smp/mngt/mnvm.img exists Settings for br_eth0: Link detected: yes check environment for 172.20.14.215 File /opt/smp/mngt/mnvm.img exists Settings for br_eth0: Link detected: yes check environment for 172.20.14.251 File /opt/smp/mngt/mnvm.img exists Settings for br_eth0: Link detected: yes Stop Service consul&z for: 172.20.13.239 Stop Service consul&z for: 172.20.14.215 Stop Service consul&z for: 172.20.14.251 Send /tmp/zstack-ha-installer/zsha to 172.20.13.239 Send /tmp/zstack-ha-installer/config.json to 172.20.13.239 Send /tmp/zstack-ha-installer/zsha to 172.20.14.215 Send /tmp/zstack-ha-installer/config.json to 172.20.14.215 Send /tmp/zstack-ha-installer/zsha to 172.20.14.251 Send /tmp/zstack-ha-installer/config.json to 172.20.14.251 Not Ceph Type, skip generate ceph auth. Install for: 172.20.13.239 config file check pass File /opt/smp/mngt/ exists Settings for br_eth0: Link detected: yes Install bash auto-completion Set iptables finished. Install to Current Node Finished. Install for: 172.20.14.215 config file check pass File /opt/smp/mngt/ exists Settings for br_eth0: 38
管理节点云主机高可用 / 3 命令行使用手册 Link detected: yes Install bash auto-completion Set iptables finished. Install to Current Node Finished. Install for: 172.20.14.251 config file check pass File /opt/smp/mngt/ exists Settings for br_eth0: Link detected: yes Install bash auto-completion Set iptables finished. Install to Current Node Finished. Upsert configuration to consul kv finished. Install to All Nodes Finished. Now,You can monitor zsha's status by using command "zsha status". More commands are shown in "zsha -h". 3.6 uninstall 卸载命令 描述 在HA集群中 对当前节点执行zsha卸载操作 建议用户自行备份当前节点内数据库再执行此操作 [root@localhost ~]# zsha uninstall WARNING: this will *DESTROY* ZStack Management Node VM. If you are *ABSOLUTELY CERTAIN* that is what you want, followed by --yes-i-really-reallymean-it. [root@localhost ~]# zsha uninstall --yes-i-really-really-mean-it start clean start shutdown cluster Do for 172.20.13.239 Do for 172.20.14.215 Do for 172.20.14.251 shutdown cluster finished Do for 172.20.13.239 Do for 172.20.14.215 Do for 172.20.14.251 clean finished 3.7 config-sample 样本配置生成 描述 生成样本配置文件并存放在临时路径/tmp/sample.CephConf.config.json或/tmp/sample.FileConf.config.json中 39
管理节点云主机高可用 / 3 命令行使用手册 使用方法 参数 [CephConf FileConf] 介绍 示例 用户根据实际情况选择配置文 zsha config-sample CephConf 件类型 或zsha config-sample FileConf [root@localhost ~]# zsha config-sample CephConf output config json file to /tmp/sample.cephconf.config.json [root@localhost ~]# zsha config-sample FileConf output config json file to /tmp/sample.fileconf.config.json 3.8 export-config 当前配置生成 描述 生成当前配置文件并存放在临时路径/tmp/current.config.json [root@localhost ~]# zsha export-config output config json file to /tmp/current.config.json 3.9 migrate 迁移命令 描述 将管理节点主机从当前运行主机迁移到目标HA主机 使用方法 参数 介绍 示例 目标HA主机为HA集群中一个正 xxx.xxx.xxx.xxx 常的HA节点 xxx.xxx.xxx.xxx zsha migrate xxx.xxx.xxx.xxx 为该目标主机的IP地址 目标HA主机为HA集群中一个正 hostname 常的HA节点 hostname为该目 zsha migrate hostname 标主机的名称 [root@localhost ~]# zsha migrate 172.20.198.176 Migrate from 172.20.197.242 to 172.20.198.176 Migration: [100 %] [root@localhost ~]# zsha migrate ceph-3 Migrate from 172.20.198.176 to 172.20.197.202 40
管理节点云主机高可用 / 3 命令行使用手册 Migration: [100 %] 3.10 import-config 配置升级 描述 对整个HA集群更新配置文件 需填写完整的配置文件路径 使用方法 参数 CONFIGURATION-FILE-PATH 介绍 示例 用户需填写完整的配置文件路 zsha import-config /tmp/current 径.config.json [root@localhost ~]# zsha import-config /tmp/current.config.json 3.11 status 状态信息 描述 显示当前整个HA集群的状态 包括管理服务主机的当前运行状态和上次启动记录 集群中所有HA 节点状态 以及管理服务主机的IP地址 [root@localhost ~]# zsha status >>>MN-VM Running On 192.168.255.205 : running >>>Last MN-VM Start Record >>>ZStack HA Services Running On 192.168.255.205 nfs-1 192.168.255.221 nfs-2 192.168.255.183 nfs-3 >>>Consul Members Node Address Status Type Build Protocol 192.168.255.205 192.168.255.205:8301 alive server 0.7.2 192.168.255.221 192.168.255.221:8301 alive server 0.7.2 192.168.255.183 192.168.255.183:8301 alive server 0.7.2 DC 2 2 2 dc1 dc1 dc1 >>>Management Node IP 172.20.198.3 >>>Public Network IP 41
管理节点云主机高可用 / 3 命令行使用手册 203.114.54.10 使用方法 参数 -conf 介绍 显示整个HA集群状态的同 时 显示当前配置情况 示例 zsha status-conf [root@localhost ~]# zsha status-conf >>>MN-VM Running On 192.168.255.205 : running >>>Last MN-VM Start Record >>>ZStack HA Services Running On 192.168.255.205 nfs-1 192.168.255.221 nfs-2 192.168.255.183 nfs-3 >>>Consul Members Node Address Status Type Build Protocol 192.168.255.205 192.168.255.205:8301 alive server 0.7.2 192.168.255.221 192.168.255.221:8301 alive server 0.7.2 192.168.255.183 192.168.255.183:8301 alive server 0.7.2 DC 2 2 2 dc1 dc1 dc1 >>>Management Node IP 172.20.198.3 >>>Public Network IP 203.114.54.10 >>>Configuration { "Node": [ "192.168.0.201 nfs-1", "192.168.0.202 nfs-2", "192.168.0.203 nfs-3" ], "MemorySizeInGB": 8, "CPU": 4, "Type": "FileConf", "MonAddrs": null, "ChronyServers": [ "192.168.0.201", "192.168.0.202", "192.168.0.203" ], "PoolName": "", "ImageFolder": "/storage/", "DNS": [ "192.168.0.1" ], "Network": [ { "Bridge": "br_eth0", "MacAddress": "b2:e4:c2:1e:06:44", 42
管理节点云主机高可用 / 3 命令行使用手册 "Ipaddr": "192.168.0.204", "Netmask": "255.255.0.0", "Gateway": "192.168.0.1", "IsMgmt": true, "IsDefRoute": false }, { "Bridge": "br_eth1", "MacAddress": "f6:75:d8:5d:73:73", "Ipaddr": "172.20.0.214", "Netmask": "255.255.0.0", "Gateway": "172.20.0.1", "IsMgmt": false, "IsDefRoute": true } } ], "ConsoleProxyOverriddenIP": "" >>>Checking Host I/O done. 3.12 stop 集群关闭 描述 关闭集群内管理节点主机以及所有zsha服务 consul服务依然继续运行 [root@localhost ~]# zsha stop start shutdown cluster Do for 192.168.255.205 Do for 192.168.255.221 Do for 192.168.255.183 shutdown cluster finished [root@localhost ~]# zsha status >>>MN-VM Running On 192.168.255.205 : running >>>Last MN-VM Start Record >>>ZStack HA Services Running On 192.168.255.205 nfs-1 192.168.255.221 nfs-2 192.168.255.183 nfs-3 >>>Consul Members Node Address Status Type Build Protocol 192.168.255.205 192.168.255.205:8301 alive server 0.7.2 192.168.255.221 192.168.255.221:8301 alive server 0.7.2 192.168.255.183 192.168.255.183:8301 alive server 0.7.2 DC 2 2 2 dc1 dc1 dc1 >>>Management Node IP 172.20.198.3 >>>Public Network IP 203.114.54.10 43
管理节点云主机高可用 / 3 命令行使用手册 >>>Checking Host I/O done. 3.13 start 集群启动 描述 启动集群内所有zsha服务 对于处于停止状态的consul服务 也将被启动 [root@localhost ~]# zsha start Do for 192.168.255.205 Do for 192.168.255.221 Do for 192.168.255.183 [root@localhost ~]# zsha status >>>MN-VM Running On 192.168.255.205 : running >>>Last MN-VM Start Record >>>ZStack HA Services Running On 192.168.255.205 nfs-1 192.168.255.221 nfs-2 192.168.255.183 nfs-3 >>>Consul Members Node Address Status Type Build Protocol 192.168.255.205 192.168.255.205:8301 alive server 0.7.2 192.168.255.221 192.168.255.221:8301 alive server 0.7.2 192.168.255.183 192.168.255.183:8301 alive server 0.7.2 DC 2 2 2 dc1 dc1 dc1 >>>Management Node IP 172.20.198.3 >>>Public Network IP 203.114.54.10 >>>Checking Host I/O done. 3.14 reset-mnvm-password 管理节点主机重置root密码 描述 管理节点主机重置root密码为系统默认值 即password 但前提是配置文件中的AllowRe setrootpassword需设置为true 该命令并未显示在-h 帮助内容中 仅供特殊情况使用 [root@localhost ~]# zsha reset-mnvm-password Reset MNVM root password on nodex IP //nodex IP为MNVM所在节点的IP Password set successfully for root in 173de36b-4a5d-458e-a5e3-9a99584551ef 44
管理节点云主机高可用 / 术语表 术语表 区域 Zone ZStack中最大的一个资源定义 包括集群 二层网络 主存储等资源 集群 Cluster 一个集群是类似物理主机 Host 组成的逻辑组 在同一个集群中的物理主机必须安装相同的操作 系统 虚拟机管理程序 Hypervisor 拥有相同的二层网络连接 可以访问相同的主存储 在实 际的数据中心 一个集群通常对应一个机架 Rack 管理节点 Management Node 安装系统的物理主机 提供UI管理 云平台部署功能 计算节点 Compute Node 也称之为物理主机 或物理机 为云主机实例提供计算 网络 存储等资源的物理主机 主存储 Primary Storage 用于存储云主机磁盘文件的存储服务器 支持本地存储 NFS Ceph Shared Mount Point等类 型 镜像服务器 Backup Storage 也称之为备份存储服务器 主要用于保存镜像模板文件 建议单独部署镜像服务器 镜像仓库 Image Store 镜像服务器的一种类型 可以为正在运行的云主机快速创建镜像 高效管理云主机镜像的版本变迁 以及发布 实现快速上传 下载镜像 镜像快照 以及导出镜像的操作 云主机 VM Instance 运行在物理机上的虚拟机实例 具有独立的IP地址 可以访问公共网络 运行应用服务 镜像 Image 云主机或云盘使用的镜像模板文件 镜像模板包括系统云盘镜像和数据云盘镜像 45
管理节点云主机高可用 / 术语表 云盘 Volume 云主机的数据盘 给云主机提供额外的存储空间 共享云盘可挂载到一个或多个云主机共同使用 计算规格 Instance Offering 启动云主机涉及到的CPU数量 内存 网络设置等规格定义 云盘规格 Disk Offering 创建云盘容量大小的规格定义 二层网络 L2 Network 二层网络对应于一个二层广播域 进行二层相关的隔离 一般用物理网络的设备名称标识 三层网络 L3 Network 云主机使用的网络配置 包括IP地址范围 网关 DNS等 公有网络 Public Network 由因特网信息中心分配的公有IP地址或者可以连接到外部互联网的IP地址 私有网络 Private Network 云主机连接和使用的内部网络 L2NoVlanNetwork 物理主机的网络连接不采用Vlan设置 L2VlanNetwork 物理主机节点的网络连接采用Vlan设置 Vlan需要在交换机端提前进行设置 VXLAN网络池 VXLAN Network Pool VXLAN网络中的 Underlay 网络 一个 VXLAN 网络池可以创建多个 VXLAN Overlay 网络 即 VXLAN 网络 这些 Overlay 网络运行在同一组 Underlay 网络设施上 VXLAN网络 VXLAN 使用 VXLAN 协议封装的二层网络 单个 VXLAN 网络需从属于一个大的 VXLAN 网络池 不同 VXLAN 网络间相互二层隔离 46
管理节点云主机高可用 / 术语表 云路由 vrouter 云路由通过定制的Linux云主机来实现的多种网络服务 安全组 Security Group 针对云主机进行第三层网络的防火墙控制 对IP地址 网络包类型或网络包流向等可以设置不同的 安全规则 弹性IP EIP 公有网络接入到私有网络的IP地址 快照 Snapshot 某一个时间点上某一个磁盘的数据备份 包括自动快照和手动快照两种类型 47