Ceph存储节点系统盘损坏集群恢复

本文主要介绍ceph16版本集群节点系统磁盘故障后的存储集群恢复，虽然系统盘很多都是节点做了raid1，但从实际做的系统项目看，总是盘损有很多未知意外发生，节点挂掉后，坏集上面的群恢mon和osd，mgr都会down掉，存储如果所在节点的节点mgr服务是激活状态，则其他节点所在的系统备用节点将会升级为激活状态。

移除问题主机

节点挂掉后，盘损在确定不能继续开机进入系统的坏集情况下，需要在其他正常的群恢节点将故障节点进行移除，此次宕机的存储节点为node4，以下命令可能会导致数据丢失，节点因为 osd 将通过调用每个 osd 来强制从集群中清除。系统

复制ceph orch host rm node4 --offline --force1. 节点初始化操作

将node4节点即故障节点更换新的系统盘并重新安装系统，重装后node4主机名我修改成了node1,并更换了新的ip，在三台ceph节点上重新添加hosts解析

复制192.168.1.1 node1192.168.1.2 node2192.168.1.3 node31.2.3.

将公钥添加至新主机。

复制ssh-copy-id -f -i /etc/ceph/ceph.pub node11.

安装docker环境。

复制curl -sSL https://get.daocloud.io/docker | shsystemctl daemon-reloadsystemctl restart dockersystemctl enable docker1.2.3.4.

安装cephadm以及ceph-common。

复制# curl --silent --remote-name --location https://github.com/ceph/ceph/raw/pacific/src/cephadm/cephadm# chmod +x cephadm# ./cephadm add-repo --release pacific# ./cephadm install# ./cephadm install ceph-common1.2.3.4.5. 向集群中添加新节点

在ceph集群添加新主机。WordPress模板

复制[root@node2 ~]# ceph orch host add node1Added host node11.2.

添加后的主机列表可通过以下命令查看。

复制ceph orch host ls1.

之后会自动安装mon以及crash等服务，还有node-exporter监控agent，但是新添加的节点上还不能进行ceph集群操作，因为新添加的节点上缺少ceph集群管理的密钥环，在上面的命令中其实可以看到新加的node1是缺少一个_admin标签的，这里提一下ceph是有几个特殊的主机标签的，以_开头的属于ceph主机的特殊标签，将_admin标签添加到这台新节点，就会导致cephadm 将配置文件ceph.conf和密钥环文件ceph.client.admin.keyring分发到新节点上，这里我们把_admin标签添加至新节点，这样可以在新节点上执行ceph集群的操作。

复制ceph orch host label add node1 _admin或者在添加节点时就可以把标签添加上ceph orch host add node1 --labels=_admin1.2.3. 添加osd

之前想着原有的故障节点的osd直接恢复到现有集群上，后来发现虽然是恢复回去了，但是网站模板osd的daemon没有被cephadm所管理，osd的容器也没有被创建，因此还是把原来故障节点的osd给格式化了，重新添加的osd，不过这里还是把我恢复的操作写一下吧。先创建一个空的osd。

复制# vceph osd create21.2.

然后激活bluestore-osd的tmpfs目录 由于bluestore中osd的目录是以一个tmpfs的形式存在的，所以被umount掉了以后需要重新激活。

复制ceph-volume lvm activate (osdid) (fsid

)

1. PS:这里的osdid就是我刚创建的，osdid为2，后面的fsid不是集群的fsid，而是这个osd自己的fsid，b2b信息网获取方式可以直接执行ll /dev/ceph*查看，osd-block-后面的即为osd的fsid。

然后添加auth和crush map，重启osd。

复制ceph auth add osd.2 osd allow * mon allow rwx -i /var/lib/ceph/osd/ceph-2/keyring1.

之后三个osd都会up，但是存在osd的daemon不被cephadm管理的问题，因此我还是删掉这个osd，重新格式化后添加的，删除osd的操作如下：

复制ceph orch ps --daemon_type osd#查看osd对应的容器id，先停止容器,我这里没有osd容器启动，所以这步可以忽略ceph osd out 2ceph osd crush remove osd.2ceph auth del osd.2ceph osd rm 21.2.3.4.5.6.

上步只是在ceph删除，还需要在磁盘上进行格式化。

复制# 显示当前设备的状态# dmsetup status# 删除所有映射关系# dmsetup remove_all# 格式化刚才删除的osd所在磁盘mkfs -t ext4 /dev/vdb1.2.3.4.5.6.

重新添加osd。

复制ceph orch daemon add osd node1:/dev/vdb1.

此时集群就恢复正常了。

本文地址：http://www.bzuk.cn/news/024b8099895.html