论文无忧 | 论文发表 | 手机版 | 二维码

《信息通信》杂志
本刊往期
您当前的位置:首页 杂志文章 浅析电信营运商信息化建设之负载均衡技术优化加速HTTP应用
浅析电信营运商信息化建设之负载均衡技术优化加速HTTP应用_杂志文章
浅析电信营运商信息化建设之负载均衡技术优化加速HTTP应用
发布时间:2018-04-20浏览次数:201返回列表

■余凡 /中国电信股份有限公司武汉传输局(武汉·430077)

摘要:负载均衡技术通过设置虚拟服务器lP (VIP).将后端多台真实服务器的应用资源虚拟成一台高性能的应用服务器,使用负载均衡算法,将大量来自客户端的应用请求分配到后端的服务器进行处理。通过负载均衡设备提供的HTTP优化和加速功能,能够大大提升电信运营商后端服务器系统的处理能力,降低服务器端负载情况,节约服务器资源和广域网链路带宽.从而大大减少电信运营商的用户在请求访问服务时所等待响应的时间。

关键词:TCP连接复用(TCP Connection Reuse)、内容缓存(RAM Caching)、TCP缓冲(TCP Buffer)、HTTP压缩、SSL加速、HTTP Multiplexing

中图分类号:TP393

文献标识码:B

文章编号:1673-1131(2010)01-063-03

一、负载均衡技术简介

现代企业信息化应用越来越多的采用B/S应用架构来承载企业的关键业务,因此,确保这些任务的可靠运行就变得日益重要。随着越来越多的企业实施数据集中,应用的扩展性、安全性和可靠性也越来越受到企业的重视。

负载均衡技术通过设置虚拟服务器lP (VIP).将后端多台真实服务器的应用资源虚拟成一台高性能的应用服务器,通过负载均衡算法,将大量来自客户端的应用请求分配到后端的服务器进行处理。负载均衡设备持续的对服务器上的应用状态进行检查,并自动对无效的应用服务器进行隔离,实现了一个简单、扩展性强、可靠性高的应用解决方案。解决了单台服务器处理性能不足,扩展性不够,可靠性较低的问题。其主要体现在两方面首先,大量的并发访问或数据流量分担到多台节点设备上分别处理.减少用户等待响应的时间,其次,单个重负载的运算分担到多台节点设备上做并行处理,每个节点设备处理结束后,将结果汇总,返回给用户,系统处理能力得到大幅度提高。随着技术不断发展,负载均衡设备也从传统的基于四层端口号进行简单的应用请求转发,发展到目前基于七层内容进行请求的转发和处理。尤其是在HTTP协议的优化和加速方面,一些技术逐渐发展成熟:TCP连接复用、内容缓存、TCP缓冲、HTTP压缩、SSL加速等。这些技术的应用有助于进一步改善用户访问响应时间、节约广域网链路带宽和服务器资源。

二、电信营运商信息化建设现状

随着Internet的快速增长,基于Web的各种应用也正以前所未有的速度成倍增长。作为专业的电信运营商,除了提供电信运营商的传统服务外,还提供相关于INTERNF.T的服务,其HTTP应用也逐渐成为当今的主流应用,因此信息化建设中,网络的各个核心部分随着业务量的提高、访问量和数据流量的快速增长,其处理能力和计算强度也相应增大,使得单一设备根本无法承担。在此情况下,如果扔掉现有设备去做大量的硬件升级,这样将造成现有资源的浪费,而且如果再面临下一次业务量的提升,这又将导致再一次硬件升级的高额成本投入,甚至性能再卓越的设备也不能满足当前业务量的需求。如:

1.移动/联通的彩铃彩信系统:由于手机用户非常多,所以对彩铃彩信系统的访问量是比较大的,因此单台彩铃彩信服务器的性能必然无法满足访问需求,需要使用负载均衡设备将用户请求分发到多台服务器.以提升总体服务能力。

2.移动/联通/电信/网通的Boss系统:Boss系统后台比较复杂,一般都是在Weblogic/WebSphere或国内中间件厂商的平台上开发的.对服务器的资源占用比较大,单台服务器能够处理的用户访问有限,需要对多台服务器做负载均衡。

3.移动/联通/电信/网通的网上营业厅:网上营业厅的后端也属于Boss系统的一部分,因此访问量增大的时候也需要对后台服务器做负载均衡。

4.电信/网通/移动/联通/铁通的Local DNS系统:电信、网通、移动、联通和铁通都有大量的宽带接入用户,这些用户上网都需要使用各自运营商的Local DNS,这种访问量是非常大,据统计某些省电信DNS最高的访问峰值超过10万qps.因此必须依靠多台DNS服务器做负载均衡才能满足。

5.电信/网通/移动/联通/铁桶的Radius系统:对于这些运营商的宽带用户,上网前都需要进行拨号验证,认证过程是通过后台的Raidus服务器来完成的,需要对Radius服务器做负载均衡。

6.电信互联星空/移动梦网动感地带/联通新时空等网站:各运营商通过自己的网站提供各种增值服务,移动用户通过手机访问WAP网站的数量也很多,随着访问量的增大都需要对后面的服务器做负载均衡。

7.电信/网通/移动/联通IDC业务:目前运营商IDC之间以及企业IDC之间的竞争非常激烈,大家都希望能够争取到更多的大客户,因此服务质量和性价比就成为客户判断的重要因素。而IDC中心购买负载均衡设备,为客户服务器提供负载均衡功能以此来提升服务质量就成为吸引客户的重要筹码,负载均衡是IDC增值的解决方案之一。

8.各运营商的OA系统和财务系统等:这些系统都是内部办公系统,由于运营商的员工众多.因此办公系统的压力也很大,也需要做负载均衡。

9.电信网通等运营商的号码百事通和商务领航等:迫于发展和增长的需要,电信网通等运营商会建立类似号码百事通这样的更多的业务增值系统,基于庞大的电信商用户群,各个系统必须要考虑对服务器加入负载均衡的解决方案。

10.电信全球眼系统:中兴通讯有参与部分电信全球眼的建设,全球眼系统中的CCS/CMS以及其他的各个模块都有负载均衡的需求。

11.3G业务:当庞大的移动用户每个人都有2M的带宽访问的时候,对后台服务器造成的压力是难以估量的,服务器负载均衡具有非常大的需求。 三、信息化建设中负载均衡技术如何优化加速HTTP应用

3.1 TCP连接复用(TCP Connection Reuse)

一般情况下,客户端在发送HTTP请求之前需要先与服务器进行TCP_次握手,建立TCP连接,然后发送HTTP请求。服务器收到HTTP请求后进行处理,并将处理的结果发送回客户端,然后客户端和服务器互相发送FIN并在收到FIN的ACK确认后关闭连接。在这种方式下,一个简单的HTTP请求需要十几个TCP数据包才能处理完成。

采用TCP连接复用技术后,客户端(如.ClicntA)与负载均衡设备之间进行三次握手并发送HTTP请求。负载均衡设备收到请求后,会检测服务器是否存在空闲的长连接,如果不存在,服务器将建立一个新连接。当HTTP请求响应完成后,客户端则与负载均衡设备协商关闭连接,而负载均衡则保持与服务器之间的这个连接。当有其它客户端(如ClientB)需要发送HTTP请求时,负载均衡设备会直接向与服务器之间保持的这个空闲连接发送HTTP请求,避免了由于新建TCP连接造成的延时和服务器资源耗费。

3.2内容缓存(RAM Caching)

内容缓存技术将应用服务器中的一些经常被用户访问‘的热点内容缓存在负载均衡设备的内存中。当客户端访问这些内容时,负载均衡设备截获客户端请求,从缓存中读取客户端需要的内容并将这些内容直接返回给客户端。由于是直接从内存中读取,这种技术能够提高网络用户的访问速度.并大大减轻后端服务器的负载情况。

我们通过下图用户访问logo.gif的实例来解释内容缓存的工作过程:

1)当有客户端发起对logo.gif的第一个请求时,负载均衡首先会检查本地缓存中是否存在该对象。如果不存在这个对象,负载均衡会将这个HTTP请求转发给后端的服务器.

2)服务器收到对logo.gif的HTTP请求后,将图片内容回应给负载均衡设备.

3)负载均衡设备将logo.gif对象缓存在内容缓存中,并将其发送给客户端,

4)后续的其它客户端发起对logo.gif的访问请求时,如果负载均衡检测到内容缓存中已经存在该对象,并确认该对象并未失效的话,负载均衡直接将该对象返回给客户端,而无需服务器再次发送该对象。

3.3 TCP缓冲(TCP Buffer)

TCP缓冲是为了解决后端服务器网速与客户的前端网络速度不匹配而造成的服务器资源浪费的问题。由于服务器与负载均衡设备之间的网络带宽速率高.时延小,通过将服务器端的请求缓冲在负载均衡设备的缓冲区中,防止由于客户端缓慢的网络链路和较高的时延造成服务器端连接阻塞问题。

如上图所示,客户端与负载均衡之间采用的链路具有较高的时延和较低的带宽,而负载均衡与服务器之间采用时延较低和高带宽的局域网连接。

3.4 HTTP压缩(HTTP Compression)

HTTP协议在v 1.1中新增了压缩功能,如果客户端浏览器和服务器都支持压缩功能的话,通过客户端和服务器进行协商,对客户端的响应请求进行压缩处理。大幅节省内容传输时所需要的带宽,并加快客户端的响应速度。但是,压缩算法本身需要耗费大量的CPU资源,因此.负载均衡设备通过对HTTP压缩功能进行支持,减轻Web服务器的资源耗费,提高其处理效率。另外,由于负载均衡一般都采用硬件的方式进行压缩,因此,压缩的效率更高。此外,对于一些不支持HTTP压缩功能的老版本的Web服务器,通过启用负载均衡上的压缩功能,可以实现对系统的优化和加速。

如下图所示,在负载均衡上实现HTTP压缩功能:

3.5 SSL加速(SSL Acceleration)

一般情况下.HTTP采用明文的方式在网络上传输,有可能被非法窃听,尤其是用于认证的口令信息等。为了避免出现这样的安全问题.一般采用SSL协议(即:HTTPS)对HTTP协议进行加密.以保证整个传输过程的安全性。在SSL通信中,首先采用非对称密钥技术交换认证信息,并交换服务器和浏览器之间用于加密数据的会话密钥,然后利用该密钥对通信过程中的信息进行加密和解密。

SSL是需要耗费大量CPU资源的一种安全技术。目前,大多数负载均衡设备均采用SSL加速芯片进行SSL信息的处理。这种方式比传统的采用服务器的SSL加密方式提供更高的SSL处理性能,从而节省大量的服务器资源,使服务器能够专注于业务请求的处理。另外,采用集中的SSL处理,还能够简化对证书的管理,减少日常管理的工作量。

SSL的处理流程如下图:

四、在实际环境中应用负载均衡产品需要注意的问题

负载均衡设备提供的这些HTTP优化和加速功能,能够大大的降低客户端的响应时间.降低带宽利用率,并且能降低服务器端负载情况,节省服务器资源。但是,目前主流的负载均衡产品在同时开启多个HTTP优化和加速功能时,设备的处理性能会大大降低。尽管各个厂家均宣称自己的设备有较高的性能处理指标,并通过第三方的测评机构公布一些产品性能测试数据,但是,这些数据一般都是在一些特别设置的实验环境下测试出来的,只能作为不同厂商产品之间性能对比的依据,而不能作为用户实际应用环境的选型依据。

此外,大多数厂商都采用基本硬件平台上加装功能卡或购买许可证的方式提供这些HTTP的优化和加速功能。如果用户想在应用加速的整体解决方案中采用这些功能,需要花费更多的采购成本。对于用户来说,这些高级特性和功能如同水中之月,可望而不可及。因此,在选购负载均衡产品的时候,首先:一定要了解自己的应用究竟需要采用哪些功能特性,而实现这些特性又需要哪些额外的费用;其次:针对当前及将来的应用需求,分析网络瓶颈的不同所在,确立是采用哪一类的负载均衡技术,采用什么样的均衡策略,在可用性、兼容性、安全性等方面要满足多大的需求,如此等等。

参考文献

美国Al0网络有限公司《负载均衡技术详解》 Jack.chen Cache server load balancing, etc. In the application2007.5

您对《浅析电信营运商信息化建设之负载均衡技术优化加速HTTP应用》一文的评论