Linux集群技术研究第二章需求分析

Heartbeat是High-Availability Linux Project（Linux下的高可用性项目）的产物，是一套提供防止业务主机因不可避免的意外性或计划性宕机问题的高可用性软件。Heartbeat可以从Linux-HA项目Web站点免费获得，它提供了所有HA（高可用性）系统所需要的基本功能，如启动和停止资源、监测群集中系统的可用性、在集群中的节点间转移共享IP地址的所有者等。它通过串行线、以太网接口或同时使用两者来监测特定服务（或多个服务）的运行状况。

Heartbeat实现了HA功能中的核心功能——心跳，将Heartbeat软件同时安装在两台服务器上，用于监视系统的状态，协调主从服务器的工作，维护系统的可用性。它能侦测服务器应用级系统软件、硬件发生的故障，及时地进行错误隔绝、恢复；通过系统监控、服务监控、IP自动迁移等技术实现在整个应用中无单点故障，简单、经济地确保重要的服务持续高可用性。

Heartbeat采用虚拟IP地址映射技术实现主从服务器的切换对客户端透明的功能。

（一）Heartbeat的组成

Heartbeat提供了高可用性集群最基本的功能，如节点间的内部通信方式、集群合作管理机制、监控工具和失效切换功能等。主要分为以下几大部分。

Heartbeat：节点间通信检测模块。

Ha-logd：集群事件日志服务。

CCM（ConsensusClusterMembership）：集群成员一致性管理模块。

LRM（Local Resource Manager）：本地资源管理模块。

StonithDaemon：使出现问题的节点从集群环境中脱离。

CRM（Cluster Resource Management）：集群资源管理模块。

Cluster policyengine：集群策略引擎。(www.xing528.com)

Cluster Transition Engine：集群转移引擎。

Heartbeat仅仅是个HA软件，它仅能完成心跳监控和资源接管，不会监视它控制的资源或应用程序；要监控资源和应用程序是否运行正常，必须使用第三方插件，如ipfail、Mon、Ldirector等。Heartbeat自身包含了几个插件，分别是ipfail、Stonith和Ldirector。介绍如下。

Ipfail的功能直接包含在Heartbeat里面，主要用于检测网络故障，并做出合理的反应。为了实现这个功能，ipfail使用ping节点或者ping节点组来检测网络连接是否出现故障，从而及时地判定出转移措施。

Stonith插件可以在一个没有响应的节点恢复后，合理接管集群服务资源，防止数据冲突，当一个节点失效后，会从集群中删除。如果不使用Stonith插件，那么失效的节点可能会导致集群服务在一个以上的节点运行，从而造成数据冲突甚至是系统崩溃。因此，使用Stonith插件可以保证共享存储环境中的数据完整性。

Ldirector是一个监控集群服务节点运行状态的插件。Ldirector如果监控到集群节点中某个服务出现故障，就屏蔽此节点的对外连接功能，同时将后续请求转移到正常的节点提供服务。这个插件经常用在LVS负载均衡集群中。关于Ldirector插件的使用，将在后面详细讲述。

同样，对于操作系统自身出现的问题，Heartbeat也无法监控。如果主节点操作系统挂起，一方面可能导致服务中断；另一方面由于主节点资源无法释放，而备用节点却接管了主节点的资源，此时就发生了两个节点同时争用一个资源的状况。针对这个问题，就需要在Linux内核中启用一个叫watchdog的模块。Watchdog是一个Linux内核模块，它通过定时向/dev/watchdog设备文件执行写操作，从而确定系统是否正常运行。如果watchdog认为内核挂起，就会重新启动系统，进而释放节点资源。在Linux中完成watchdog功能的软件叫softdog，softdog维护一个内部计时器，此计时器在一个进程写入/dev/watchdog设备文件时更新。如果softdog没有看到进程写入/dev/watchdog文件，就认为内核可能出了故障。Watchdog的超时周期默认是一分钟，可以通过将watchdog集成到Heartbeat中，从而通过Heartbeat来监控系统是否正常运行。

（二）Heartbeat的工作原理

Heartbeat内部结构由三大部分组成。集群成员一致性管理模块（CCM）用于管理集群节点成员，同时管理成员之间的关系和节点间资源的分配。Heartbeat模块负责检测主次节点的运行状态，以决定节点是否失效。Ha-logd模块用于记录集群中所有模块和服务的运行信息。

本地资源管理器（LRM）负责本地资源的启动、停止和监控，一般由LRM守护进程lrmd和节点监控进程（Stonith Daemon）组成；lrmd守护进程负责节点间的通信；StonithDaemon通常是一个Fence设备，主要用于监控节点状态。当一个节点出现问题时，处于正常状态的节点会通过Fence设备将其重启或关机以释放IP、磁盘等资源，始终保持资源被一个节点拥有，防止资源争用情况的发生。

集群资源管理模块（CRM）用于处理节点和资源之间的依赖关系，同时，管理节点对资源的使用，一般由CRM守护进程crmd、集群策略引擎和集群转移引擎三个部分组成，集群策略引擎（Cluster policy engine）具体实施这些管理和依赖，集群转移引擎（Cluste rtransition engine）监控CRM模块的状态。当一个节点出现故障时，负责协调另一个节点上的进程进行合理的资源接管。

在Heartbeat集群中，最核心的是Heartbeat模块的心跳监测部分和集群资源管理模块的资源接管部分。心跳监测一般由串行接口通过串口线来实现，两个节点之间通过串口线相互发送报文来告诉对方自己当前的状态。如果在指定的时间内未受到对方发送的报文，那么就认为对方失效，这时资源接管模块将启动，用来接管运行在对方主机上的资源或者服务。