p2p cache网络缓存解决方案

文档名称文档密级：2020-6-13华为机密，未经许可不得扩散第1页,共17页网络缓存解决方案一、项目概述随着3G和宽带接入的高速发展，移动和固网用户的数量及带宽都有很快的增长。如此庞大的用户需求强烈刺激各类信息业务的发展，对IP网络的结构和容量都提出很高的挑战。由于目前国内的源站服务器大都部署在中国电信、中国联通的IDC数据中心机房内，这势必带来了三个个问题：1、中国移动和中国电信、中国联通的互联互通上存在带宽瓶颈问题，导致用户体验下降。2、由于国内Internet资源，主要在电信、联通网内，移动必须依赖与电信、联通的带宽。3、中国移动必须向中国电信、中国联通缴纳高额的网间结算费用。上述三个问题是中国移动迫切需要解决的问题，我们根据对内蒙古移动、北京移动以及浙江移动的调研得出下面中国移动各省的典型网络拓扑图：图1中国移动网络拓扑图A市局点B市局点C市局点省干路由器1省干路由器2Internet其它盟市局点国干路由器2国干路由器1文档名称文档密级：2020-6-13华为机密，未经许可不得扩散第2页,共17页从调研可知：中国移动各省一般有两台CMNET国干路由器，两台CMNET省网路由器。两台省网路由器以口字形方式上行到国干路由器，上行带宽和互联带宽一般为2*POS10G。中国移动各省在全区各地市部署了盟市核心路由器，一般情况下每盟市2台，省干路由器以口字形方式上联到2台国干网路由器。上行带宽一般为POS2.5G。中国移动和中国电信、中国联通的网络接驳地点分布在北京、上海、广州等大城市。网络出口请求主要由在线视频、HTTP下载和网页访问等流量构成，而资源大部分在ISP网外，所以这些流量不可避免的需要经过网络出口。庞大的视频、HTTP下载流量占用带来的互联互通问题导致用户体验下降，同时也带来了结算问题。所以解决在线视频、HTTP下载和网页访问等流量带来的带宽占用，是提高中国移动用户体验、降低网间费用结算的关键。二、创新点分析1、节省网间结算费用：目前国内的源站服务器大都部署在中国电信、中国联通的IDC数据中心机房内，中国移动每年需要支付给中国电信和中国联通上千万的网间结算费用。部署Cache系统后，流量节省50%，网间结算费用减半。图2网络中各种流量所占比例带宽节省百分比以10G出口带宽为例HTTP约20%-40%节省流量400M-800MVideo约30%-50%节省流量900M-1500MWebSiteMirror约50%-70%节省流量1000M-1400MP2P约30%-60%节省流量900M-1800M总计约32%-55%节省流量3.2G-5.5G表1Cache流量节省分析表2、提升用户体验：用户上网访问云南本地的网站，需要先绕到移动互联互通出口在返回，网络路径很长需要18条路由历时309s，用户体验很差。部署Cache系统后将网络内文档名称文档密级：2020-6-13华为机密，未经许可不得扩散第3页,共17页容缓存到移动本地，用户访问不用出网，网络路径减少，用户体验大幅提高。响应时间用户体验上升HTTP153ms6-10倍Video184ms10-15倍WebSiteMirror124ms10-12倍P2P204ms8-10倍表2用户体验提升分析表三、推广性分析宽带互联网发展到今天，电信运营商的网络建设的指导方针已经从传统的面向基础设施建设转变为面向应用需求。原有的根据用户数/带宽为模型的网络建设已经不在适合今天网络建设的要求。现在网络建设模型是以应用/用户需求模型为主导。7×24小时应用行为使得传统网络中的流量波峰/波谷时间不再存在，大部分时间网络出口的上下行流量持平在高峰水平，对网络出口造成巨大压力；影响其他正常网络应用，不能保证其他关键业务（专线用户、网络游戏等）。用户抱怨增多，粘合度急剧下降，最后造成用户流失。Web页面、在线视频、P2P访问对带宽消耗非常大，部分用户占据了绝大部分资源，对这部分用户的投入产出回报失衡。运营商彻底沦为管道，没有从Web页面、在线视频、P2P行为中获取任何增值收益，反而在原有服务承诺的基础上，运营商必须采用更多设备，提供更多接入带宽和相关资源才能满足用户的需求，否则将迎来客户的抱怨和投诉。面对以上的挑战和压力，各运营商主要采用以下传统方法来降低HTTP和P2P对带宽吞噬的影响：带宽扩容：采用带宽扩容的方式费用昂贵，并且内容丰富的强势运营商不一定愿意提供接口带宽给弱势运营商。封堵限速：电信运营商采用各种各样的堵截手段，如封端口、限流量、减带宽等极端筑坝防洪措施，一味封堵限速，造成宽带运营商与宽带用户之间的争执，用户体验下降，并可能产生法律问题，最终流失用户。引入内容源：需要建设IDC机房，提供托管主机服务，或者通过自建CDN的方式将TOP网站内容引进内网，对于运营商来说也很有难度，需要和每个内容提供商沟通，必须这些内容提供商愿意才可以引入内容。引进的内容不一定是该区域用户所希望访问的网站，最后效果不佳。网络Cache：使用Cache的方式，只需要在原网络部署一定量的WebCache及P2PCache，就可自动将HTTP和P2P内容中热点引入本运营商网络，并且只有Cache热点数据，数据利用率高，Cache一次，服务多次。网络Cache使用最少的成本，缓存最热点的数据，使得热点内容更靠近最终用户，以此提高用户体验，节省网间结算。它是一种高性价比的方案。相比于封堵限速、增加出口带宽、引入内容源带来的有限改善，电信运营商选择华为网络Cache解决方案将是其实现运营低成本、服务高品质的最佳选择。文档名称文档密级：2020-6-13华为机密，未经许可不得扩散第4页,共17页四、建设周期设备到货后，仅需要2周左右调测，调测成功即可上线应用。五、华为解决方案介绍WebCache解决方案介绍网络缓存解决方案系统架构及原理华为WebCacheRoadmapWebCache系统可以部署在国际网关、核心网和城域网，主要负责处理网络流量中的各种应用协议请求报文。WebCache系统由负载均衡子系统、WebCache子系统以及一些通用网络设备（如交换机）构成。所有模块通过运营商路由器接入网络，Webcache系统的其余部件通过运营商路由器接入网络，外部流量通过接入网InternetWebcachegroup交换机负载均衡模块WebCache系统备用主用接入网接入网文档名称文档密级：2020-6-13华为机密，未经许可不得扩散第5页,共17页策略路由或DNS引入。当请求命中时，WebCache系统直接返回请求数据给用户，如果请求不命中，WebCache从源站获取请求数据，并转发给用户。负载均衡子系统负载均衡设备的功能是将用户请求和Internet网络流量按照相应算法分发到WebCache服务器组进行处理。负载均衡系统分为四大模块：负载均衡模块、高可用模块、安全增强模块、管理监控模块。负载均衡模块当用户请求到达WebCache服务器之前，负载均衡模块根椐WebCache服务器的性能和健康情况，选择性能最佳的WebCache服务器响应用户的请求。充分利用所有的WebCache服务器资源，将所有流量均衡的分配到WebCache服务器，从而有效地避免“不平衡”现象的发生。它提供12种灵活的算法将数据流有效地转发到它所连接的cache群。这12种算法包括：Ø轮询（RoundRobin）：顺序循环将请求一次顺序循环地连接每个cache模块。当其中某个服务器发生第二到第7层的故障，就把其从顺序循环队列中拿出，不参加下一次的轮询，直到其恢复正常。Ø比率（Ratio）：给每个cache模块分配一个加权值为比例，根椐这个比例，把用户的请求分配到每个cache模块。当其中某个cache模块发生第二到第7层的故障，就把其从cache模块队列中拿出，不参加下一次的用户请求的分配，直到其恢复正常。Ø优先权（Priority）：给所有cache模块分组，给每个组定义优先权，用户的请求，分配给优先级最高的cache模块组（在同一组内，采用轮询或比率算法，分配用户的请求）；当最高优先级中所有cache模块出现故障，才将请求送给次优先级的cache模块组。这种方式，实际为用户提供一种热备份的方式。Ø最少的连接方式（LeastConnection）：传递新的连接给那些进行最少连接处理的cache模块。当其中某个cache模块发生第二到第7层的故障，就把其从cache模块队列中拿出，不参加下一次的用户请求的分配，直到其恢复正常。Ø最快模式（Fastest）：传递连接给那些响应最快的cache模块。文档名称文档密级：2020-6-13华为机密，未经许可不得扩散第6页,共17页当其中某个cache模块发生第二到第7层的故障，就把其从cache模块队列中拿出，不参加下一次的用户请求的分配，直到其恢复正常。Ø观察模式（Observed）：连接数目和响应时间以这两项的最佳平衡为依据为新的请求选择cache模块。当其中某个cache模块发生第二到第7层的故障，就把其从cache模块队列中拿出，不参加下一次的用户请求的分配，直到其恢复正常。Ø预测模式（Predictive）：利用收集到的cache模块当前的性能指标，进行预测分析，选择一台cache模块在下一个时间片内，其性能将达到最佳的cache模块相应用户的请求。Ø动态性能分配（DynamicRatio-APM):收集到的应用程序和cache模块的各项性能参数如CPU、内存和磁盘的占用情况，动态调整流量分配。动态性能分配可通过标准SNMP或cache模块端插件完成。Ø动态cache模块补充（DynamicServerAct.):当主cache模块群中因故障导致数量减少时，动态地将备份cache模块补充至主cache模块群。Ø服务质量(QoS)：按不同的优先级对数据流进行分配。Ø服务类型(ToS)：按不同的服务类型（在TypeofField中标识）对数据流进行分配。Ø规则模式：针对不同的数据流设置导向规则，用户可自行编辑流量分配规则，利用这些规则对通过的数据流实施导向控制。高可用模块负载均衡设备的高可用模块分为两部分：WebCache服务器组失效切换和负载均衡设备失效切换。1、高可用模块能够监控WebCache服务器组，通过ICMP协议监控资源池中文档名称文档密级：2020-6-13华为机密，未经许可不得扩散第7页,共17页服务器的健康状态，如果某个服务器不可用，则将该服务器从服务队列中取出，将负载分发到其它服务器上。2、高可用模块具有负载均衡设备心跳监控及切换能力。WebCache系统中，两台负载均衡设备之间使用网线传递心跳信号、主备切换触发信号，以及监控对端设备的状态。主用负载均衡设备通过高可用模块将心跳信号定时发送到备用负载均衡设备的高可用模块，一旦备用设备没有收到主用设备的心跳信号，此时备用设备主动将自己切换为主用设备。负载均衡设备网口冗余连接示意图主备切换的过程如下：两台负载均衡设备直接通过网线连接，主用设备负责产生心跳信号，备用设备监听主用设备的心跳信号；当备用设备在一定时间内没有接收到心跳信号时，则将自己切换为主用；备用设备对外发送ARP广播，将所有的虚拟服务和浮动IP对外广播，表明这些地址在自己这端，引发网络流量切换。安全增强模块负载均衡设备的操作系统要专业定制化，不应具有通用操作系统的安全漏洞；负载均衡设备的系统要具有防火墙功能；负载均衡设备提供可定制化的应用级安全策略以实现安全防护；负载均衡设备支持简易安全网关功能，防止SQL注入、C