借我一双慧眼――Web20的运营监控及数据统计

借我一双慧眼WEB2.0的运营监控及数据统计51.COM研发经理林泰君2009.12.26WEB2.0的挑战51应对挑战案例分享51数据统计系统架构51.COMWEB2.0的挑战51.COM大型WEB2.0网站的运营现状复杂巨大众多51.COM用户产生内容用户与网站的交互线上运行的代码量业务逻辑网站架构网络环境机房网站功能运营监控的巨大挑战如何监控数以千计的功能在巨大的用户交互背景下,在复杂的网络环境中,在众多的机房里是可靠可用的?监控什么?怎么监控?51.COM业务层网络层目前的监控方式广域网络监控商业产品内部网络监控Cacti服务器监控NagiosGanglia51.COM已有监控方式的优点及不足优点广域网监控能发现定位广域网层面的一些问题Cacti能很快发现内部网络问题.Nagios,Ganglia能很快发现并定位服务器层面的问题不足广域网监控:监控点少,有时不准确价格昂贵无法发现定位业务层问题51.COM51应对挑战51.COM应对方法-缺啥补啥广域网监控业务层监控51.COM广域网监控做法:在网站页面上嵌入脚本,测试用户端抓取不同服务器上的图片的速度,将数据汇总,根据不同的测速曲线及历史曲线判定广域网事件功效:发现广域网异常,并定位出异常是发生在用户端,广域网,还是企业机房特点:成本低廉,准确度高51.COM业务层监控做法:通过嵌入在业务逻辑代码中的数据采集程序,汇聚业务数据到数据中心,异常发现系统抓取数据中心的数据进行曲线模式匹配,发现异常,上报数据到告警服务器,监控中心收到告警,并做检查,最终确定是否有事故发生.功效能发现大量以往不能发现的问题用户不再是测试员,是真正的上帝!特点能快速发现业务层异常,并准确定位异常点51.COM51.COM慧眼10000多个广域网络采集点5000多个业务监控点,涵盖51.com的所有重要功能可定制上报时间的自动监控监控点可任意添加,甚至监控网页Flash,Js可定位到异常发生在哪个频道,服务器,页面,程序段,甚至是哪行代码.51.COM案例分享51.COM故事:一个阳光明媚的早上半仙,焦工,黄大侠,薄海在踢皮球陈总是火警……一个阳光明媚的早上半仙,焦工,黄大侠,薄海在开心的工作陈总读书看报聊技术人生51.COM发现问题–某频道用户访问曲线下降51.COM分析现象–广域网测速情况51.COM分析现象-交换机流量情况51.COM分析现象-服务器监控51.COM分析现象-总在线及各地在线情况51.COM定位问题-问题发生在哪个功能逻辑中51.COM定位问题-问题发生在哪台服务器的哪个页面上51.COM事故记录51.COM当其他公司的运营总监在为运营质量头痛脑裂时,我们陈总却能胸有成竹,运筹帷幄,很重要的原因就是有一套完备的监控系统,用一双双自动化的眼睛检查运营质量.51.COM51数据统计51.COM数据统计的前世今生数据统计和运营监控有什么关系?为什么系统提供的数据能做财务审计使用?51.COM高层为何每天登入系统3次,他们在关注什么?51.COM前世-监控统计系统的背景庞总问:我们的PV有多少?一天后,三天后,三十天后:一封来至Google的邮件.我们自己开发.业务监控系统-意外的收获深刻的认识:业务监控和业务统计实际上是一个铜板的两面.51.COM今生-统计系统的现状实时统计800台WEB服务器每天十几亿次请求采集分析400多个用户信息3000多个统计点3年积累了12T的用户行为数据和Google分析的不同关注用户行为–可以采集到触发某种业务逻辑的用户信息数据实时–产品人员可以立即看到新上线产品的变化情况51.COM部分统计功能展示51.COM业务行为统计用户行为统计PV统计产品分析核心数据分析用户成分分析反作弊分析页面行为统计用户分布分析系统架构51.COM监控统计系统架构51.COM业务层数据中心异常发现主数据库报表告警用户分析监控数据分析广域网监控战略数据采集第三方数据采集用户舆论采集接入层监控服务器监控业务数据采集业务监控数据总线数据总线数据总线业务分析业务支撑运营支撑系统架构图客户端监控51.COM中子弹结构图51.COMQ＆ＡＴＨＡＮＫＹＯＵ！51.com研发经理林泰君彩虹[e-mail][e-mail]