北京拓林思软件有限公司 GreatTurbo LoadBalance Server 11 技术白皮书 - 企业级 Linux 负载均衡集群解决方案 北京拓林思软件有限公司 2018 年 1 月 GreatTurbo LoadBalance Server 11 --Linux 企业级负载均衡集群

Transcription

1 GreatTurbo LoadBalance Server 11 技术白皮书 - 企业级 Linux 负载均衡集群解决方案 2018 年 1 月

2 概述 GreatTurbo LoadBalance Server 11 是推出的为满足 Linux 平台企业级应用的负载均衡产品 它的负载均衡功能使得您的 Web IPTV Mail Game 等各种解决方案可以昼夜不停地提供 24 7 的服务, 同时提供了强大的并发处理能力 GreatTurbo LoadBalance Server 11 基于最新的 linux 2.6 内核, 其领先的集群技术为您的业务注入更高的可靠性 稳地性和强大的扩展能力 GreatTurbo LoadBalance Server 11 是根据市场的实际需求和企业级用户多年实践经验的总结, 依赖已有成熟架构的基础开发的, 它能够为 LAMP (Linux Apache Mysql Perl/PHP/Python) 架构的应用和企业级用户提供更加可靠 可扩展的基础平台 GreatTurbo LoadBalance Server 11 具有更好的可靠性和可扩展性, 更高的性价比, 更好的易用性和可管理性, 完全满足企业级应用所要求的 RASM(Reliability,Availability, Scalability,Manageability) 特性 GreatTurbo LoadBalance Server 11 可支持 Turbolinux 发布的 GTES12 等操作系统平台, 适用于 i386 x86_64 等主流的硬件平台 由于 GreatTurbo LoadBalance Server 11 可以和 Turbolinux 操作系统更好的配合, 使得从操作系统到 GreatTurbo LoadBalance Server 11 软件构建的负载均衡解决方案更加的可靠, 并广泛服务于各种行业客户 GreatTurbo LoadBalance Server 11 功能简介 GreatTurbo LoadBalance Server 11 可以为任何基于 TCP/IP 协议的服务提供负载均衡功能, 使得您的 Web IPTV Mail Game 等各种解决方案可以昼夜不停地提供 24 7 的服务, 适用于 ISP/ICP/ASP 和企业应用等各种需要高负载量 高性能和高可用性的复杂环境 GreatTurbo LoadBalance Server 11 基于最新的 linux 2.6 内核, 其领先的集群技术为您的业务注入更高的

3 可靠性 稳地性和强大的性能扩展能力 GreatTurbo LoadBalance Server 11 产品解决方案通过将多台普通的服务 器 ( 在集群内被称为节点 ) 集群在一起, 从而使整个系统具有了无比强大的 关键特性, 包括 : 负载均衡 GreatTurbo LoadBalance Server 11 利用先进的流量分发机制将客户端的请求分配给最适当的节点, 使客户能够在最短的时间内得到响应, 同时使整个系统的性能得到了飞跃式的提高 使用户能够利用低价位的服务器就得到卓越的系统性能, 完全可以与要花费数十倍价格才能够得到的中 小型机的性能相媲美 高可用性 GreatTurbo LoadBalance Server 11 随时监测集群内各个节点的运行状态, 一旦发现某个或某些节点故障, 则不再将客户请求分发给这个 ( 些 ) 节点, 客户的请求将通过其它工作正常的节点得到响应 整个过程无须人工的参与, 对于前台客户也完全是透明的 同时,GreatTurbo LoadBalance Server 10 构造了一个完全没有单一故障点的集群方案, 使整个系统的可用性得到了最大限度的提高 可扩展性 GreatTurbo LoadBalance Server 11 允许动态平滑的增加或减少集群内的节点, 达到调整系统负载能力的目的 对于那些日后可能想扩充系统性能的用户来说, 这一功能是必须的 而且,GreatTurbo LoadBalance Server 10 在设计上就避免了系统的依赖性, 这样就能够轻而易举的将各种不同平台的系统集群在一起, 例如 Linux Solaris Windows NT 和其他 UNIX 系统等等, 极大的保护了用户的投资 可管理性 GreatTurbo LoadBalance Server 11 利用简单直观的管理工具来管理整个集群, 使得系统管理员可以从多台服务器重复 单调的管理工作中解放出来, 极大的提高了工作效率

4 GreatTurbo LoadBalance Server 11 可以自动将接收到的客户请求分发给集群内的工作节点, 而每个工作节点上都能够对外提供相同的 TCP/IP 服务, 例如 Web 服务 这样, 对客户来讲, 整个集群就是一个整体, 而在集群内部, 由于客户请求是由多个节点分别处理的, 所以提升了系统的整体性能 由于 GreatTurbo LoadBalance Server 11 解决方案不依赖于任何专用的硬件或专用的操作系统, 所以用户可以根据需求和喜好来任意构建系统, 您既可以利用 IA 服务器和 Linux 来组成一个纯 Linux 的集群系统, 又可以利用 SUN 工作站 Windows NT 服务器来组成一个混杂的集群系统 相对于可以实现负载均衡的其它方案或产品, 例如轮询 DNS 硬件负载均衡方案等,GreatTurbo LoadBalance Server 11 从原理上就有着先天优势, 是真正处于领先地位的集群产品 采用 GreatTurbo LoadBalance Server 11, 我们将会帮助您构建一个业界领先的高性能系统, 使您在日益激烈的企业竞争中处于领先地位 GreatTurbo LoadBalance Server 11 的技术特点 高可用性 GreatTurbo LoadBalance Server 11 可以使用普通的服务器和应用程序来构成一个基于动态负载均衡的集群, 并将它们与一个单一的网络标识绑定在一起 GreatTurbo LoadBalance Server 11 的负载调度器可以监测集群内的每一个节点和每一项服务的运行状态, 并由此决定是否将用户的请求分发给节点 为了使负载调度器本身不是单一故障点,GreatTurbo LoadBalance Server 11 集群内的高负载调度器也被后备负载调度器系统持续监测 如果探测到故障, 后备调度器就会很快地自动提升为主调度节点, 并立即担负起对集群的管理和流量分发工作 GreatTurbo LoadBalance Server 11 保证您的客户能够随时找到他们所需要的关键业务信息, 允许您与您的用户保持永不间断的业务联系 既使是出现硬件或软件故障时 GreatTurbo LoadBalance Server 11 也可以保证连续工作 任何时候都会让您的客户得到需要的服务 可扩展性

5 使用 GreatTurbo LoadBalance Server 11 的体系结构, 在性能需求增大时, GreatTurbo LoadBalance Server 11 集群的扩充过程十分容易和平滑 GreatTurbo LoadBalance Server 11 允许您在业务增长时随时扩展您的系统而不降低服务质量 GreatTurbo LoadBalance Server 11 可将您的业务系统扩展到百万级并发连接 可伸缩性 GreatTurbo LoadBalance Server 11 允许您根据您的业务量随时伸缩您的系统 您可以通过简单的管理工具动态地添加或关闭额外的服务器节点, 而对节点的配置简直易如反掌, 从而使系统的容量完全和您的业务吻合 高效性 GreatTurbo LoadBalance Server 11 通过每个真正的服务器节点直接返回应答通讯, 从而与客户直接进行通讯 因此从根本上解决了集群管理器自身局限集群性能的缺陷 GreatTurbo LoadBalance Server 11 通过对调度节点本身做高可用, 从而消除了单一故障点 如果调度节点本身很慢, 它仍会给整个集群的性能带来负面影响 GreatTurbo LoadBalance Server 11 调度节点被设计成在 Linux 系统内核中直接操作, 最大化的提高了系统的性能 TurboLinux LoadBalance 11 拥有先进的流量分配算法, 保证将流量分配到最合适的真实服务器节点 GreatTurbo LoadBalance Server 11 能够提供强大 高效的处理能力, 对流量的时延几乎为零, 整个系统的处理性能随节点的增加线性增长 多种流量转发机制 GreatTurbo LoadBalance Server 11 提供了三种流量转发方式 : 主要有通过网络地址转换 (Network Address Translation) 将一组服务器构成一个高性能的 高可用的虚拟服务器, 我们称之为 VS/NAT 技术 (Virtual Server via Network Address Translation) 还有通过 IP 隧道实现虚拟服务器的方法 VS/TUN (Virtual Server via IP Tunneling), 和通过直接路由实现 VS/DR(Virtual Server via Direct Routing), 它们都可以极大地提高系统的伸缩性 GreatTurbo LoadBalance Server 11 允许您根据自己的应用和网络配置情况选择自己的流量转发方式

6 可管理性和价格有效性 GreatTurbo LoadBalance Server 11 基于松耦合集群模式, 这样使它可以通过低成本的普通系统构造集群, 不需要特殊的硬件配置 GreatTurbo LoadBalance Server 11 可以使用旧硬件 新硬件或者两者同时来构造集群, 系统或硬件的需要只取决于您对各个节点的性能期望值和操作系统的支持 当一个集群需要更强的处理能力时, 您可以根据需求随意选择不同硬件厂商的不同硬件来扩充整个集群系统, 而不需要重新安装或者替换整个系统, 从 而极大的降低您业务需要的总成本 同时, GreatTurbo LoadBalance Server 11 允许用户定制整个产品 GreatTurbo LoadBalance Server 11 能充分适应您的业务需求, 并能使您在获得最佳性能的同时极大的控制成本 无论是从技术 管理 配置还是成本来看,GreatTurbo LoadBalance Server 11 都是您的最佳选择! 支持所有基于 TCP/IP 的应用 GreatTurbo LoadBalance Server 11 基于四层和七层技术, 可提供 TCP 和 HTTP 应用的负载均衡综合解决方案 能够将所有基于 TCP/IP 标准的应用程序集群到一起, 用户可以根据自己的需求和喜好来选择应用程序和配置, 简单地将它们配置到集群中, 不必受到任何限制, 也不需要对应用程序做任何专门的改动 支持异构节点由于 GreatTurbo LoadBalance Server 11 采用了先进的流量分发机制, 基本做到了与操作系统的无关性 因此, 您可以采用任何满足您需求的操作系统作为 GreatTurbo LoadBalance Server 11 集群内的节点, 甚至您可以在同一个集群中使用多种不同的操作系统平台来满足各种需求, 同时最大限度的保护您的投资 目前可以用作 GreatTurbo LoadBalance Server 11 集群节点的操作系统有 TurboLinux 操作系统 普通 Linux Windows NT Server 6 Solaris 和其它 UNIX 等 应用稳定性代理程序 在状态监测方面功能强大, 可支持端口 URL 脚本等多种状态检测方式 这些代 理程序连续地监测集群以确定服务器的运行状况, 并且动态修正调度节点

7 系统总是能够正确地将访问调度到活动的服务节点而忽略故障节点 集群提 供了服务的代理程序并可针对专有服务定制代理程序 所有这些代理程序提 供了一整套完全个性化的解决方案 GreatTurbo LoadBalance Server 11 负载均衡功能的工作原理 逻辑结构 GreatTurbo LoadBalance Server 11 通过将一系列独立的服务器节点虚拟成 为一个统一服务网络, 这个统一的网络在外界看来是一个单独的虚拟 IP 地 址和节点名字 当一个客户申请来到网络时, 它先到达调度节点 (load balancer) 这个 节点管理虚拟标识并负责将一系列松散的服务器节点绑定成为一个统一的 服务网络 一旦负载调度器接收到申请, 它首先判断集群内的可用服务器中哪一个最适合为该申请提供服务, 然后将客户申请转发到该服务器做适当的处理 当服务器处理完请求并准备应答时, 它直接与客户进行通讯 (vs/nat 方式需要经过调度节点返回 ) 因为通常来说, 应答的流量要远远大于请求的流量, 这样就使负载调度器本身不再成为一个集群性能的瓶颈 在这种体系结构中, 因为负载被分散到集群内的多台机器, 所以整个集群的 服务能力可以通过添加额外的服务器来增加 集群内也可以存在备用负载调度器, 以便在负载调度器本身故障的时候整个 集群仍然能够正常工作 为了保持高可用性, 主负载调度器定期检验集群内的每一个服务器节点 可

8 以通过使用系统级的检查和应用程序稳定性代理程序来实现 主负载调度器首先发送一个 ICMP 信息包到节点来判断系统是否有响应 如 HTTP FTP IMAP POP SMTP 或者 NNTP, 负载调度器将会打开一个与服务端口的连接并进行传输 如果传输成功, 服务就被认为是还在正常运行 对于没有代理程序的服务, 负载调度器将设法打开一个与该服务端口的连接 如果连接建立, 服务就被认为是正常运行 四层负载均衡主要是通过分析 IP 层及 TCP/UDP 层的流量实现的基于 IP 加端口的负 载均衡 以常见的 TCP 应用为例, 负载均衡器在接收到第一个来自客户端的 SYN 请 求时, 会通过设定的负载均衡算法选择一个最佳的后端服务器, 同时将报文中目标 IP 地址修改为后端服务器 IP, 然后直接转发给该后端服务器, 这样一个负载均衡请 求就完成了 从这个过程来看, 一个 TCP 连接是客户端和服务器直接建立的, 而负 载均衡器只不过完成了一个类似路由器的转发动作 在某些负载均衡策略中, 为保 证后端服务器返回的报文可以正确传递给负载均衡器, 在转发报文的同时可能还会 对报文原来的源地址进行修改 七层负载均衡位于 OSI 的最高层, 即应用层, 此时负载均衡器支持多种应用协议, 常见的有 HTTP FTP SMTP 等 七层负载均衡可以根据报文内容, 再配合负载均 衡算法来选择后端服务器, 也称为 内容交换器 比如, 对于 Web 服务器的负载均 衡, 七层负载均衡可以根据 IP+ 端口 的方式进行负载分流, 还可以根据网站的 URL 访问域名 浏览器类别 语言等决定负载均衡的策略 例如, 有两台 Web 服务器 分别对应中英文两个网站, 两个域名分别是 A B, 要实现访问 A 域名时进入中文 网站, 访问 B 域名时进入英文网站, 这在四层负载均衡中几乎是无法实现的, 而七 层负载均衡可以根据客户端访问域名的不同选择对应的网页进行负载均衡处理 GreatTurboLoadBalance Server 11 还包含了一个易于扩展的框架和模板,

9 可以让用户自己写应用程序稳定性代理程序 负载调度器和调度器池 负载调度器 (load balancer) 是对整个集群进行控制 监测和流量分发的 节点 主负载调度器 (Primary Load Balancer,PLB) 指真正处于工作状态的调度节点, 负责对集群内各个节点的监测, 外来客户请求的分发等功能 在同一时刻, 集群中只能有一台调度节点提供功能 (GreatTurbo LoadBalance Server 11 可以保证这一点 ) 备份负载调度器 (Backup Load Balancer,BLB) 是主负载调度器的备份节点 集群中可以同时存在多个 BLB BLB 平时只是处于监测状态, 监测 PLB 的工作状态 一旦发现 PLB 停止工作 ( 故障 ), 所有的 BLB 就会通过选举产生一个新的 PLB 接替所有工作 BLB 和 PLB 的角色可以互相转换,BLB 在需要时可以自动升级为 PLB, 而 PLB 也可以降级为 BLB 集群内所有的负载调度器 ( 包括 PLB 和 BLB) 组成一个调度器池 (BalancerPool) 调度器池实际上可以看做是整个集群内的一个子集群, 它完成了整个集群的监测 控制和流量分发工作 对于集群外的用户, 他们并不关心也不知道自己发出的请求是被调度器池中的哪个节点接受的 ; 而对于集群内的服务节点, 它们也不用关心收到的请求是由调度器池中的哪个节点分发来的 因此, 可以将调度器池看做是客户和服务节点中的一个透明中间层 在理论上, 允许

10 集群内只配置一个负载调度器作为调度器池 ( 这种情况下,PLB), 当然, 为了使集群没有单一故障点, 您至少需要另一个负载调度器作为备份 所有负载调度器必须是 Linux 系统, 而且必须安装 GreatTurbo LoadBalanceServer 11 软件 服务节点和服务器池 从逻辑功能上讲, 负载调度器并不负责响应客户的请求 只负责将客户请求分发给服务节点, 而对客户请求的处理是服务节点完成的 服务节点 (Server) 可以运行目前大多数系统, 例如 Linux Solaris Windows NT Server 等等, 您可以自由选择 但为了给用户提供相同的服务, 您必须 选择能够运行适当应用程序来提供服务的操作系统 例如, 如果您想构建一 个 WEB 服务器的集群系统, 您就不能选择 MS DOS 作为服务节点的操作系统, 因为在其上并没有 WWW 服务程序 所有的 Server 构成了服务器池 Server Pool 服务和服务绑定 实际上, 用户并不关心集群内有多少负载调度器和服务节点, 用户只是关心 集群提供了哪些服务 (Service) 所以, 将服务器集群的过程也就是将服 务集群的过程 举例来说,HTTP 就是一种服务, 而 FTP 也是一种服务 为了让集群内的负载调度器知道哪些服务节点能够提供哪些服务, 需要在配置 GreatTurbo LoadBalance Server 11 的时候将服务节点和服务进行绑定 (Bind) 一个服务节点可以绑定多个服务, 一个服务也可以被多个服务节点绑定 一旦把某个服务节点和某个服务之间进行了绑定工作, 就说明在正常情况下, 这个服务节点能够对外提供这项服务

11 通讯转发机制 负载调度器支持两种主要的流量转发技术 :IP 上的 IP 隧道 (IP over IP Tunneling) 和直接路由 (Direct Routing) 在服务节点与负载调度器处于同一个局域网的条件下, 我们推荐您使用直接路由 因为它的效率是最高的 而如果您想做异地集群, 既服务节点与负载调度器不在同一个局域网内时, 您也可以使用 IP 隧道的方法来构建集群 这就给用户提供了最大的选择空间, 可以根据不同的需求来构建不同的方案 流量调度与持久性 (persistence) 当一个客户请求要被分发时, 负载调度器通过判断所有服务节点的运行状况和处理能力来决定这个请求的去向 您完全可以设定较高档的服务器负担高一些的请求量, 而较低档的服务器负担较少的请求量 当然, 这个配置是相当灵活的 例如, 您完全可以配置节点 A 拥有较多的 HTTP 客户请求流量, 而拥有很少的 FTP 客户请求 激活客户持久性 (persistence bit) 标志, 一个特定的客户将会与它们开始连接的服务器之间保持连接 有一些服务, 例如 Secure HTTP(SSL), 需要客户对进行服务器身份认证 这个过程需要将特定的客户绑定到特定的服务器 如果不设置持续连接, 一个客户每次连接到集群都可能会被定向到任何一个集群节点 对于 Secure HTTP, 这将会要求客户对每一台服务器重新进行身份认证, 这显然是不能接受的 如果您对集群提供的某种服务设置了 persistence 选项, 则主负载调度器能 够保证将同一个 IP 地址来的所有针对这项服务的客户请求分发到同一个服 务节点上 这样, 就能够完成对某些特殊要求的服务 ( 如 SSL) 的支持