应用交付网络优化技术

应用交付网络优化技术张洲亭深信服应用交付产品首席架构师UpgradeYourNetwrokWithSACC2011SACC2011应用交付网络优化技术SACC2011SACC2011目录服务器性能优化技术智能DNSTCP单边加速流缓存用户体验感知SACC2011SACC2011从负载均衡(LB)到应用交付(AD)应用交付不再局限于传统负载均衡负载分发功能服务器压力卸载：TCP连接复用、SSL卸载、HTTP内存缓存、HTTP压缩从LB到ADSACC2011SACC2011L4SW:四层负载均衡基本原理L4SW的特点:只能依据服务器的连接数或流量执行负载均衡算法,比如轮转,加权轮转,最小流量等算法.会话保持只能使用源IP总之,L4SW只能依据4层及以下的信息执行负载均衡和会话保持,LB执行NAT以及CHECKSUM的动作.L4SW的代表:LVS.优点:免费;缺点:实现方式很迂回,性能较低,尤其难以发挥X86多核的性能.SACC2011SACC2011L7SW:AD的基础按7层信息执行负载均衡及会话保持.相对L4SW更灵活.URLHASH,COOKIE等分析应用层信息,是实现应用层防火墙的基础,也是实现HTTP缓存,压缩,SSL卸载等服务器优化的基础.执行TCP代理,是TCP连接复用的基础.L7SW的设计的最大挑战:1.TCP代理的高新建速度及大并发2.复杂的附加业务逻辑的整合3.稳定性SACC2011SACC2011AD软硬件架构的演化—过去的１０年软件LINXU，VXWORKS核心硬件：X86•连接的一个包，L4层加速芯片找不到对应的SESSION，该包上送到X86，X86执行对应的session创建、路由、L4SW的处理，完成后将该session信息下发给L4层芯片。•连接的其他包，L4层加速芯片能找到对应的SESSION，执行相应的NAT操作以及MAC地址的更新，直接将包通过2层交换片发送出去。注意此种情况下数据包再也不用上送到X86，节省了X86的计算资源，达到较高L4层性能。•在2002年左右,当时X86的南北桥架构导致I/0带宽受限,PPS性能上不去,L4SW必须借助FPGA或ASIC才能达到10G的性能,这在当时是一个很先进的架构.•问题:硬件架构复杂,L2SWITCH与FPGA带宽受限,连接方式不可靠,甚至用网线连接.SACC2011SACC2011ＡＤ新一代软硬件架构X86硬件发展日新月异，I/0带宽吞吐能力早已不是吴下阿蒙。高端芯片早已废弃南北桥架构，使用QPI，NUMA结构，大幅提高I/0吞吐，CPU之间带宽也大为提高。X86早已独自完成L4SW/L7SW10G线速。NP技术发展日益成熟，4层转发性能可以达到双向80G。我们的方案：１０Ｇ以下平台，用纯Ｘ８６，以上平台用X86＋NP，取代X86＋FPGA＋L2SwitchLinux软件优化关键：1.SMP-AMP2.控制面与数据面分离3.摒弃Linux中断及下半部机制，以轮询模式代替中断模式4.稳定性的关键：ALLINLINUXUSERSCOPESACC2011SACC2011目录从负载均衡(LB)到应用交付(AD)智能DNSTCP单边加速流缓存用户体验感知SACC2011SACC2011服务器性能优化技术1.TCP连接复用2.HTTP内存缓存3.HTTP压缩4.SSL卸载在数据中心内部，AD设备能为服务器做点什么？消减服务器的数量，直接减少软硬件的投资，减少维护费用，并且节能环保！作用SACC2011SACC2011TCP连接复用状态客户端每秒连接数客户端吞吐量客户端响应时间服务器每秒连接数服务器CPU占用率服务器内存占用率服务器默认状态////0248/3415禁用连接池1.4W200mbps/58mbps1.216ms1.4W80%251/3415启用连接池1.4W200mbps/58mbps0.6ms25040%251/3415SACC2011SACC2011HTTP内存缓存内存缓存将内容直接锁定在内存中，不会swap到磁盘上，最大限度减少响应时间缓存行为完全满足HTTP协议规范节省服务器大量计算资源SACC2011SACC2011硬件加速卡节省服务器计算资源HTTP压缩节省大量昂贵的接入带宽HTTP压缩和SSL卸载SACC2011SACC2011目录从负载均衡(LB)到应用交付(AD)服务器性能优化技术TCP单边加速流缓存用户体验感知SACC2011SACC2011智能DNS：单数据中心多链路优点：多链路：解决南北网通互通问题，高效访问！通过监视服务器及ISP链路的状况，及时将流量引导到正常的服务器和ISP链路上。缺点：不能提供数中心级容灾与备份。只能提供ISP级的就近性，不能提供ISP+地理位置的究竟性SACC2011SACC2011智能DNS：分布式数据中心+多链路多中心动态切换：全业务实时监测健康最佳用户体验：动态最优路径选择SACC2011SACC2011智能DNS:基础设施向ISP申请将域名的解析交给智能AD每个数据中心都要向其他数据中心实时通告本数据中心的链路健康状况、流量状况、以及服务器压力状况；同时每个数据中心还主动监视其他数据中心的服务健康状态，相对ＢＩＮＤ的优势之一。智能DNS配置文件全局同步功能，只要在一个数据中心上更改配置，其他数据中心上的相应配置自动更新。SACC2011SACC2011智能DNS——静态就近性访问智能DNS根据用户的LDNSIP的地理位置、ISP属性来判断应该返回哪个IP个用户。智能DNS直接使用用户配置的规则来解析DNS请求内置全球各地IP地址段，国内最全的ISP地址段，并且具有地址段自动更新功能，方便客户配置SACC2011SACC2011智能DNS——动态就近性算法智能DNS动态就近性：当静态就近性规则不能满足需求时，就是用动态就近性。比如一个国外的用户来访问，地理及ISP就近性就不能解决问题了，怎么办？动态就近性就派上用场了。SACC2011SACC2011目录从负载均衡(LB)到应用交付（AD)服务器性能优化技术智能DNS流缓存用户体验感知SACC2011SACC2011TCP单边加速问题：无线网络丢包延迟较高超长距离（跨洲、跨国)传输丢包、延迟高高峰期丢包严重功能：改善高丢包和高延迟下的TCP传输效率无需安装任何客户端插件提升在线视频、图片等大文件访问速度。SACC2011SACC2011TCP单边加速——效果3Mbps专线发送10MB大小文件时延(ms)丢包(%)正常速率(KB/s)加速后(KB/s)正常耗时(秒)加速后(秒)本地网络200.13643692826.82异地网络250244.367115.33234.6689.66异地较差网络250524.1387.23426.67117.6710Mbps专线发送10MB大小文件时延(ms)丢包(%)正常速率(KB/s)加速后(KB/s)正常耗时(秒)加速后(秒)本地网络200.11218.561225.328.47.9异地网络250243.17111.67237.6792异地较差网络250524.8786.23385119SACC2011SACC2011TCP单边加速原理优化慢启动及拥塞避免算法！实时、准确的计算两点之间的带宽，以最合适的速率发送数据！准确的丢包判断，只重传实际被丢掉的包,减少CPU、带宽、传输时间的浪费！SACC2011SACC2011目录从负载均衡(LB)到应用交付（AD)服务器性能优化技术智能DNSTCP单边加速用户体验感知SACC2011SACC2011流缓存技术——广域网加速数据中心WOC/VPNWOC/VPN专网/互联网提升传输速度的同时，保证数据中心内容的更新及时性APP3APP2OSOSAPP1OSAPP3APP2OSOSAPP1OSSACC2011SACC2011目录性能优化技术智能DNSTCP单边加速流缓存SACC2011SACC2011用户体验感知数据中心有大带宽，一流的应用交付器，强劲的服务器，客户访问体验一定好？客户老是抱怨访问速度慢，到底是什么原因？带宽不够？丢包及延迟太大？还是应用有问题需要优化？•网络设备和服务器越来越多•大量的时间花费在故障排查上•缺乏预警机制，事后排查业已造成损失•无法获知全局流量的分布•速度慢、页面打不开，问题到底在哪里？更大的挑战SACC2011SACC2011技术原理HTTP4XXHTTP5XX连接建立异常RST、重传异常窗口大小异常TTL异常MAC错误SACC2011SACC2011用户体验感知SACC2011SACC2011应用交付网络优化技术SACC2011SACC2011SANGFOR深信服上网行为管理IPSecVPNSSLVPN负载均衡应用性能管理广域网加速下一代防火墙网络优化网络安全SACC2011SACC2011谢谢SACC2011SACC2011