数据仓库--课件

数据仓库一、基本概念随着数据库技术的应用普及和发展，人们不再仅仅满足于一般的业务处理，而对系统提出了更高的要求：提供决策支持。何谓数据仓库一种面向分析的环境；一种把相关的各种数据转换成有商业价值的信息的技术。1、从数据库到数据仓库数据库系统能够很好的用于事务处理，但它对分析处理的支持一直不能令人满意。特别是当以业务处理为主的联机事务处理（OLTP）应用和以分析处理为主的DSS应用共存于一个数据库系统时，就会产生许多问题。例如，事务处理应用一般需要的是当前数据，主要考虑较短的响应时间；而分析处理应用需要是历史的、综合的、集成的数据，它的分析处理过程可能持续几个小时，从而消耗大量的系统资源。人们逐渐认识到直接用事务处理环境来支持DSS是行不通的。要提高分析和决策的有效性，分析型处理及其数据必须与操作型处理及其数据分离。必须把分析型数据从事务处理环境中提取出来，按照DSS处理的需要进行重新组织，建立单独的分析处理环境。数据仓库技术正是为了构建这种新的分析处理环境而出现的一种数据存储和组织技术。操作型数据分析型数据细节的综合的，或提炼的在存取瞬间是准确的代表过去的数据可更新不更新操作需求事先可知道操作需求事先不知道生命周期符合SDLC完全不同的生命周期对性能要求高对性能要求宽松一个时刻操作一个单元一个时刻操作一个集合事物驱动分析驱动面向应用面向分析一次操作数据量小一次操作数据量大支持日常操作支持管理需求数据仓库的定义及特征数据仓库理论的创始人W.H.Inmon在其《BuildingtheDataWarehouse》一书中，给出了数据仓库的四个基本特征：面向主题，数据是集成的，数据是不可更新的，数据是随时间不断变化的。3、数据仓库中的数据组织数据仓库中的数据分为四个级别：早期细节级，当前细节级，轻度综合级，高度综合级。1985~1998年销售明细表1998~2003年销售明细表1998~2003年每月销售表1998~2003年每季度销售表DW中还有一类重要的数据：元数据（metedata）。元数据是“关于数据的数据”（RDBMS中的数据字典就是一种元数据）。数据仓库中的元数据描述了数据的结构、内容、索引、码、数据转换规则、粒度定义等。4、数据仓库系统结构RDBMS数据文件其他综合数据当前数据历史数据元数据抽取、转换、装载数据仓库OLAP工具DM工具查询工具分析工具二、数据仓库设计数据仓库的设计分为如下三个阶段：数据仓库建模分析主题域确定粒度层次确定数据分割策略构建数据仓库数据的存储结构与存储策略DSS应用编程三、操作数据存储（ODS）在许多情况下，DB-DW的两层体系结构并不适合企业的数据处理要求。因为，虽然可以粗略地把数据处理分成操作型和分析型，但这两种处理处理并不是泾渭分明的。ODS（OperationalDataStore）作为一个中间层次，一方面，它包含企业全局一致的、细节的、当前的或接近当前的数据，另一方面，它又是一个面向主题、集成的数据环境，适合完成日常决策的分析处理。四、数据仓库的实现数据仓库的工具主要有：数据预处理工具，数据分析（OLAP）工具，数据挖掘工具，OLAP服务器。数据仓库和OLAP工具基于多维数据模型（在数据仓库中，通常以多维方式来存储数据。）。基本概念维：人们观察数据的特定角度。维的层次：人们观察数据的特定角度可能存在细节程度不同的多个描述方面，我们称其为维的层次。多维分析的基本动作切片，旋转，上卷，下钻。Salesvolumeasafunctionofproduct,month,andregionProductMonthDimensions:Product,Location,TimeHierarchicalsummarizationpathsIndustryRegionYearCategoryCountryQuarterProductCityMonthWeekOfficeDayTotalannualsalesofTVinU.S.A.DateCountrysumsumTVVCRPC1Qtr2Qtr3Qtr4QtrU.S.ACanadaMexicosum产品销售情况某年某月产品销售情况选定两个维：产品维和地区维时间维数据切片产品维地区维产品维地区维基于RDBMS的数据仓库实现关系数据库将多维数据库中的多维结构分为两类：一类是事实表，用来存储事实的度量值以及各个维的码值；另一类是维表。数据仓库的设计模型有：星型模式，雪花模式，混合模式数据仓库的设计也可以理解为面向OLAP的数据库设计。在星型模式中，主要数据存储在事实表中，没有冗余，并符合3NF或BCNF。维值信息存储在维表中。维表一般不需要规范化。主要原因是维表是静态的，是否会产生因更新而导致异常也就不重要了。ProductsPidpnamecategorypriceLocationsLocidcitystatecountryPidtimeidlocidsalesTimeiddatemonthquarteryearholiday_flagTimesSales定单号销售员号客户号产品号日期标识地区名称数量总价定单号定货日期客户号客户名称客户地址销售员号姓名城市产品号产品名称单价日期标识日月年地区名称省事实表星型模式定单号销售员号客户号产品号日期标识地区名称数量总价定单号定货日期客户号客户名称客户地址销售员号姓名城市产品号产品名称单价日期标识日月年地区名称省事实表雪花模式产品号公司代码公司代码公司名称地址五、SQLServer2000数据仓库工具数据转换服务(DTS)用于向数据仓库中加载数据数据复制用于分布式数据仓库分布和加载数据OLEDB提供应用程序与数据源的接口APIAnalysisService用于采集和分析数据仓库中的数据EnglishQuery提供使用英语语言查询数据仓库MetaDataService浏览数据仓库中的元数据PivotTable服务用于定制操作多维数据的客户端接口在数据仓库或者数据市场中的信息可以由联机分析(OLAP)处理，OLAP可以有效地以由维度和度量组成的立方体方式查看数据。然而，存在着这种问题：虽然OLAP合计是在数据仓库中可以达到的查询性能的关键因素，但是存储这些合计数据的成本是磁盘存储量。事实上，合计数据量可以轻易地超过原有的数据量。另外，当维度和合计量提高时，所要求的OLAP数据存储量也大大地提高。这种对存储量的极大要求一般称为数据爆炸。OLAP描述的是一种多维数据服务，这种服务的设计目的是保证分析员、经理和决策者针对特定的问题，通过快速、一致、交互式的实时数据访问和分析，获得有创意的发现。在SQLServer2000中，有3种用于存储数据仓库中维度数据的方法，每一种方法都随其数据存储要求和其数据检索速度而变化。(l)MOLAP：多维型OLAP在一个用于压缩索引的永久数据存储中存储维度数据和事实数据。合计存储用来加快数据访问。MOLAP查询引擎是专有的，并且优化成由MOLAP数据存储使用的存储格式。MOLAP提供了比ROLAP更快的查询处理速度，并且要求更少的存储空间。然而，它不能较好地伸缩，并且要求使用单独的数据库来存储。(2)ROLAP：关系型OLAP在关系型数据表中存储合计。ROLAP针对关系型数据库的应用允许其利用已有的数据库资源，并且允许ROLAP应用程序很好地伸缩。然而，ROLAP使用表存储合计则要求比MOLAP更多的磁盘空间，速度相对比较慢。(3)HOLAP：正如其名称所示，混合型HOLAP介于MOLAP和ROLAP之间。像ROLAP一样，HOLAP将主数据存储在源数据库中。像MOLAP一样，HOLAP把合计存储在一个永久性数据存储的地方，它与主关系数据库分开。这种混合形式使HOLAP可以具备MOLAP和ROLAP两者的优点。