云计算课程第6讲

1上节回顾•Google的三架马车？–GFS–MapReduce–Bigtable•什么是自主计算技术？–AC不是自动化技术–AC的基本模型–AC的五层进化路线图上海交通大学计算机科学与工程系2016年秋授课人:李超特别副研究员云计算概论IntroductiontoCloudComputing六、性能优化要点3摘要•两大优化问题–网络服务性能–系统能耗功耗4摘要•两大优化问题–网络服务性能–系统能耗功耗5SLA和SLO•服务等级协议（Service-LevelAgreement)–关于网络服务供应商与客户间的一份合同，其中明确了网络服务供应商提供的具体服务•服务响应时间•能同时服务的客户数目•对服务异常的定义•标准，价格，责任等•服务等级目标（Service-LevelObjectives）–具体的衡量指标•可用性、可靠性、性能、能耗、频率、吞吐量等6QoS•服务质量（QoS）最早是网络的一种安全机制，用于解决通讯中的堵塞问题•在云计算中，服务质量（QoS）一般指代大规模分布式计算过程中的响应时间问题•QoS感知的云数据中心管理技术–主要目的是满足不同类型负载应用的响应速度7云端的交互信息和延时•现代Web应用如Bing，Facebook，以及Amazon的零售平台，都面临动态交互的信息处理–构建一个简单的网页界面可能瞬时调动上百台服务器–任何一个节点的滞后都会导致严重的端对端延迟这意味着，每1000个用户中，就很可能存在1人面临无法容忍的延时！！糟糕情况下（99.9th百分位数）的网络双向延时（round-triptimes,RTTs),或将达到中位数延时的若干个数量级之多8长尾效应(LongTailConcept)Zipf’slaw,showingdecreaseinpopularityofitemswithinanorderedsequence9长尾效应(LongTailConcept)•最早由哈佛大学人类学家G.K.Zipf教授在研究语言文字出现频率时提出Thekthitemis1/kthepopularityofthefirst.---Zipf’sLaw•2004年，Anderson提出，对于像亚马逊这样的公司，产品的流行度可以用该定律描述10百分位数•一组数据构成的样本集合，从大到小排序•第N个百分位数(theNthPercentile)应满足：–所有小与该数的数据样本数目应占N%•例：在一次考试中小明获得80分，全班有95%的同学的得分都小于80分，则对于该班集来说，成绩的第95个百分位数(the99thPercentile)为80分11正态分布中的百分位数举例0.13thPercentile50thPercentile99.87thPercentile12TheTailatScale•考虑这样一台服务器：–一般情况下它在10ms内响应请求–但第99个百分位情况下，它需要1s才能返回•如果某任务只需要一台该服务器：–每100个请求会面临1次长达1s的响应•如果某任务需要100台该服务器并行处理：–63%的请求会面临1次长达1s的响应！13TheTailatScaleProbabilityofone-secondservice-levelresponsetimeasthesystemscalesandfrequencyofserver-levelhigh-latencyoutliersvaries.14TheTailatScale•Asimplewaytocurblatencyvariabilityistoissuethesamerequesttomultiplereplicasandusetheresultsfromwhicheverreplicarespondsfirst.15摘要•两大优化问题–性能–功耗16节能的根本着眼点•计算机体系架构师节能的主要手段是优化和管理CMOS晶体管的功率消耗–CMOS是组成现代数字集成电路的基本单元。17处理器节点的功耗组成•动态功耗(dynamicpower)–历史上功耗管理的焦点•V:晶体管端电压•F：晶体管切换频率•C和A可看作常数18处理器节点的功耗组成•静态功耗(staticpower)–随着动态功耗节能的深入，静态功耗称为计算机系统目前更加棘手的问题–又称为LeakagePower，是因为CMOS存在少量漏电流。19如何节能？•加速完成任务，空闲时把处理器关断–工作的时候100%工作，闲的时候完全闲下来ListhelengthoftheidleperiodandTtristhetimerequiredtotransitioninandoutofthelow-powerstate.20计算节点性能功耗调节E=P1*T1E=P2*T2TimePowerP1T1BenefitT2P2Cost•成本vs.收益–功耗性能–增加时间or降低功耗DeadlineADeadlineB降频节能•可以借助节点的调频功能降低能耗–DVFS(dynamicvoltageandfrequencyscaling)–是经典的节能技术–适合与负载完成时间不敏感的应用21计算节点性能功耗调节•风险vs.收益–散热性能–限制条件下瞬时提速升频竞速•可以借助节点的超频功能提升速度–短时提升性能，但会增加散热需求–适合部分交互式应用，如移动负载22虚拟化云环境中复杂的案例分析：•虚拟化的云环境中，一些vCPU恐难以获得理想的频率配置•不同类型任务可能存在干扰，导致系统无法维持在高效运行点DemandImbalance此前负载理想性能TimeServerSpeedvCPU执行队列当前vCPU频率XenCreditSchedulerUtilizationMismatch23•任务之间存在相互依赖关系，计算任务的调度时序和完成性能若出现偏差，可能导致：–大量任务的资源竞争和时延增加，瞬时功率上升，高能耗ExtraCPUtimecausedbyprolongedsnapshottingonvolumestoragenodew/odeduplicationNetworktrafficofcomputenode30.8%performancedegradationCPUutilizationofcomputenodew/deduplication软件定义环境中复杂的案例分析：24总结•SLA,SLO,QoS•百分位数，长尾效应•优化云数据中心的响应时间•动态功耗和静态功耗，DVFS•节能的基本思想•为什么云环境中功耗管理具有挑战性？