何小伟-电商海量订单处理OFC系统的关键技术环节-彭青

2014/6/301OFC订单履约中心技术实现彭青2014年6月营销研发部—零售系统部—订单生产体系2014/6/302OFC是做什么的？转换用户订单为各终端系统的生产单按要求送达到相应终端系统客户订单OFC生产单生产单终端1终端n2014/6/303OFC的目标与职能制定履约计划将交易产生的单据，加工转换成库房可生产的子单根据排产计划和履约路径，将可生产的订单转至合适库房进行生产在保障履约的前提下，节省运营成本完善订单履约流程每一个业务流程都对应有系统流程对应任何系统流程可以主动控制任何系统流程需要设计严谨，维护数据正确、一致、完整2014/6/304面对的挑战处理海量、高速增长的订单数据SOA化体系结构下，协调众多系统运行，保持订单数据的一致性和完整性可运营、可监控、易部署、易水平扩展2014/6/305为可运营设计充分考虑如何设计成一个易于运营的系统监控分析工具，及时准确发现潜在的问题异常处理流程日志记录，可以事后追查问题运营工具，可以随时应对运营控制需求─支持订单手工处理─支持订单优先级─修正客户预约时间和生产计划的调整2014/6/306履约工作流—系统架构分布式任务处理引擎任务队列引擎生产数据中心系统配置管理业务处理系统流程配置管理任务接收服务优先级管理接单系统监控系统运营系统业务数据封装业务执行MySQL集群Redis集群JFS（分布式文件系统）任务调度执行2014/6/307海量订单处理—总原则关注系统吞吐量─订单履约系统需要把握的最关键指标---吞吐量定义好各系统SLA指标─涉及的系统众多─各系统业务处理方式和流程不同，导致各系统性能指标差异较大服务划分等级，分级治理─划分优先级，确保主流程通畅─采用灵活多样的降级方案，保证主业务正常运营2014/6/308海量订单处理—系统保护削峰和流量控制─不是所有系统都要承担高峰值处理能力，需要有削峰和流量控制功能─保护上、下游系统─借鉴PID模型─统一的产能监控、防止过载，在过载前进行控制过载保护─保护自身系统─快速拒绝机制2014/6/309海量订单处理-分布式系统分布式处理系统─系统每个切片可以水平扩展─以集群为单位进行扩展─实现分布式任务队列，代替timer2014/6/3010海量订单处理-系统水平和垂直扩容能力每个GROUP能处理的订单量在可控范围之内，一旦某一块出现瓶颈的时候，可以随时部署一个或一套GROUP2014/6/3011海量订单处理-分布式任务处理服务层业务处理分布式任务处理引擎消息平台任务配置管理任务同步任务节点调度业务数据封装业务执行内存任务管理任务接收服务任务优先级管理数据访问层业务处理服务Jdbc配置管理页面其它应用saf/wshttpsafsaf生产数据中心系统MySQL集群Redis集群JFS（分布式文件系统）任务节点执行分布式任务队列2014/6/3012海量订单处理-分布式任务队列2014/6/3013海量订单处理-分布式任务队列采用工作流机制，支持灵活的流程配置─基于Zookeeper的分布式配置─动态添加业务处理环节流量缓冲和流量自动调节控制功能─能有效自动调节系统吞吐量─能自动检查检查下游系统的处理能力，保障下游系统稳定支持订单优先级─通过配置，灵活支持高级别的订单优先生产2014/6/3014订单处理流程控制采用流程控制中心进行集中控制，而不是阶梯式控制─便于运营，方便及时发现和解决问题单据─减少业务数据不一致性的几率─借助工作流和状态机实现中心控制2014/6/3015海量数据存储多种存储形式，保证数据容量大，以及高性能─分布式云储存方案─Hbase存储方案─MySql集群存储方案─使用Redis和SSDB缓存技术2014/6/3016数据一致性、完整性OFC采用中心端推送数据的方式，保证分布式数据的一致性和完整性区分数据一致性的要求（强、弱、最终）─划分数据等级─优先保证生产数据的强一致性数据一致性手段─服务提供方保证防重、幂等性─使用状态机，可配置的重试机制─人工介入处理机制─采用异步处理，推送最终数据2014/6/3017灰度部署部署方案─支持按Group集群部署─支持分层部署：接单、分布式队列引擎、业务处理系统┈┈─预发布环境─新旧系统灰度部署─多机房容灾分流策略─按用户分流─按订单类型、支付类型、配送类型、单品等各种维度分流控制─按照所在省、市、县、镇的订单百分比进行分流有了灰度升级，系统才能快速迭代OrderDispatchStrategyLegacyServerNewServerLegacyDataServerNewDataServer41232014/6/3018系统监控与运营异常监控存活性积压量性能监控吞吐量TPKPI监控数据处理数据查询、数据修复、统计分析配置管理流程配置、节点配置2014/6/3019Q&AThanks北京市朝阳区北辰西路8号北辰世纪中心A座6层6FBuildingA,North-StarCenturyCenter,8BeichenWestStreet,ChaoyangDistrict,[e-mail]