天猫智能供应链及其背后的支撑技术

天猫双11容量规划演进为什么要做容量规划•背景•业务自然增长速度非常快•新业务不断上线•业务运营促销类活动频繁•达成的目标•何时扩容/缩容•新业务服务器数量预估•计算资源采购和分配什么系统，什么时候，需要多少服务器系统预估容量/系统单机能力=服务器数量容量规划3个阶段经验判断线上压测场景化压测123•线下性能测试•在线只读系统•在线读写系统•分层容量评估•解决单点容量评估问题•场景化•全链路压测•解决场景化容量评估问题•取决于系统架构简单，系统数量少•评估不准确，容量问题频繁淘宝日常流量曲线业务a业业务c与系应用a统应用c机器a机器c从线下到线上—单机压测容量评估Service2ServiceAPP1APP5APP2ServiceCacheAPP3ServiceServiceDB1APP4ServiceDB2分层评估应用层服务层存储Service1•以点到面覆盖所有系统海量业务形态业务b业务n务成千上万应用应用b应用n形态一个应用多台机器（分布式）机器b机器n线上应用压测模型压测报告&容量水位系统数据数据采集性能数据业务数据应用状态压测执行压测过程阀值监控&自动停止压测过程异常处理模拟人工转发引流压测控制复制负载均衡引流自动压测平台架构自动执行、自动停止，无人压测自动产出报告和容量水位常态化:5000+次压测/月扩容缩容和数据标准还需要解决一个问题，场景化的容量评估双11等促销活动真正来临时，对整条链路的表现需要有一个确定性20倍峰值的流量：确定各个应用需要的服务器、拉平系统的服务器资源从整体来看，除了单个应用，还有机房、网络、存储、中间件等诸多环节以“点”的方式无法解决“场景化”的问题！！！线上单机压测是基于单个点去做的空白描点无法描成一个场景应用层Service2ServiceServiceAPP2APP3APP4APP1APP5ServiceServiceServiceCacheDB1DB2服务层存储Service1应用层Service2ServiceServiceAPP2APP3APP4APP1APP5ServiceServiceServiceCacheDB1DB2服务层存储Service1单点评估场景化评估另外两种模式：小流量环境、单元流量场景化容量评估•场景化数据制作•集群压测引擎•CDN•多协议，长连接•流量控制•流量染色•流量隔离流量控制台场景工厂（压测数据包）电信CDN节点压测引擎联通CDN节点压测引擎移动CDN节点压测引擎教育网CDN节点压测引擎流量引擎集群阿里巴巴数据中心压测数据超大规模的集群压测方案实现数据构造与请求发送一体化可视化灵活操控，像操控单机一样操控集群流量从全国各地cdn发出来协议：Pc（http、https）无线（spdy、accs、acds）无线1500w/s，pc800w/s请求发出无线6000w长连接维持单引擎1.5w+/s的吞吐量，不影响cdn集群正常业务正常流量2LVS’流量隔离步骤电信|联通|移动应用A应用B应用CDBLVSTengine压测平台压测DBDRCDRCSyncTair中心机房1LVS统一接入电信|联通|移动应用A应用B应用CDBLVSTengine压测平台隔离系统压测DBDRCDRCSyncTair中心机房1LVS统一接入城市1城市2CDN机房1压测引擎CDN机房2压测引擎Configserver应用A’应用B’应用C’LVS’统一接入’NotifyNotify’城市1城市2CDN机房1压测引擎CDN机房2压测引擎ConfigserverLVSapiVipserverDiamond评估隔离比例隔离出一个集群场景压测拉平系统服务器配比归还隔离集群ABCdABCdACBTengine’dBDiamondAC13容量评估主流程•以双11大促交易场景为例：输入5万笔每秒的要求，自动完成场景化的资源和系统适配，输出压测报告构造基础数据（买家、卖家、商品等）业务模型预测构造压测请求数据构造配置压测方案上传压测数据（cdn)业务预热（针对缓存）生效压测passtoken小流量预跑验证环节准备&check压测用户登录压测执行&实时调速动态弹性伸缩压测报告&问题总结压测执行&总结场景化容量评估的表现聚划算优惠券手淘推荐航旅搜索菜鸟天猫ae……38大促全链路压测618大促全链路压测99大促全链路压测13年双115轮全链路压测14年双118轮全链路压测15年双1111轮全链路压测双12全链路压测精准发现容量的瓶颈网络、应用、中间件、DB、基础服务、硬件设施、预案等全方位大促演练验证13年全链路压测发现700+问题，14年发现500+问题，15年发现400+问题4000+次压测/年覆盖阿里集团各Bu业务线经验线下性能压测线上单机压测引流构造场景化压测流量隔离自动化适配−业务：高速增长、场景多样，促销活动−系统：分布式的架构−容量规划：越来越准确容量评估总结2003~20082008~20112011~