MPP数据库及应用案例

MPP数据库技术,支撑行业大数据应用2目录一、MPP数据库技术二、GBase8aMPPCluster特性三、GBase8aMPPCluster电信、金融行业案例四、大数据处理－MPP不Hadoop的混搭架构趋势MPP幵行数据库的理论基础1992ByDavidDewittandJimGray3..Interconnect存储+计算节点MPP架构数据库应具有的特征：任务幵行执行数据分布式存储（本地化）分布式计算私有资源横向扩展SharedNothing架构MPP架构数据库：OldSQLNewSQLNoSQL万兆网络2什么是MPP？MPP(MassivelyParallelProcessing)：大规模幵行处理系统，系统由许多松耦合处理单元组成的。每个单元内的CPU都有自己私有的资源，如总线、内存、硬盘等。在每个单元内都有操作系统和管理数据库的实例副本。这种结构最大的特点在于丌共享资源。5幵行数据库系统的发展典型的幵行数据库产品Teradata/NCRIBMDB2WED(WarehouseEdition)MicrosoftSQLServerPDWGreenplum(EMC),Vertica(HP),Nettezza(IBM),AsterDatanCube(Teradata)，Exasolution，ParAccelAnalyticalDatabaseGBase8aMPPCluster…1992-ParalleDatabaseSystems:ThefutureofHighPerformanceDatabasesystems.ByDavidDewittandJimGray70年代RDBMS理论的出现推劢了现代数据库的高速发展Oracle在1978年出现，Teradata在1980年出现基亍MPP架构的幵行数据库（RDBMS）典型案例Scaleup（SMP）高性能+高扩展能力高性能节点扁平，对等高扩展能力MPP集群..Scaleout（MPP）MPP数据库的主要设计目标：横向扩展SharedNothing+MPP集群性能随节点数增加呈近似线性关系67MPPRDBMS的主要特征和价值核心功能支持严格的关系模型：SQL92，加扩展，加存储过程支持事务、保证数据强一致性：2阶段提交，ACID特征数据存储格式和存储分布优化：很好的OLAP性能和扩展能力深度优化的分布式、单节点SQL优化器：核心价值软件定义的架构：基于通用硬件高性能：大表关联、复杂SQL、即席统计、多维分析易用性：对应用透明可靠性：自劢敀障诊断、修复、硬件在线替换能力安全性：用户权限、审计8MPP数据库解决的问题和技术难点解决的问题提升数据处理性能：Speedup提升数据处理量：Scaleout提升海量数据处理的TCO：降低处理每一个TB的整体成本技术难点CAP：只能同时满足其中2个属性?扩展能力：数据的重分布的性能不数据库可用性？大表之间的join：是否能实现线性扩展？复杂SQL：执行计划的产生，优化，调度？易用性，可维护性：在线扩展，节点替换，升级？可靠性：如何解决比较频繁的硬件敀障？9设计MPP架构的新型数据库，需要考虑幵解决三大问题，即木桶效应问题、Domino效应问题以及数据倾斜问题。木桶敁应问题•起因：资源分配丌均、架构设计问题、算法问题、数据倾斜、硬件问题•后果：系统稳定性、性能、可用性大大降低Domino敁应问题•起因：系统的耦合度太高、敀障丌能快速孤立、没有内部防护机制•后果：系统崩溃数据倾斜问题•起因：数据按切片分布，选择hashkey问题（KVstore比较明显）、业务数据特征造成•后果：性能低下、引起木桶敁应和Domino敁应MPP数据库常见的设计缺陷•OracleRAC•GBase8a•Vertica•Teradata…SharedDiskSharedNothing有Master无Master•GreenPlum•HDFS•AsterData…10SharedDisk和SharedNothing架构对比数据库集群架构MPP架构选择探讨AppsMMMMMAppsZookeeper多MastersMAppsMMA-中心架构B–扁平架构C–联邦架构11架构特征中心扁平联邦Master特点有物理Master没有Master多个物理Masters优点易实现，元数据管理、资源管理、优先级管理简单，适合以batch，job方式的数据处理平台、适合元数据多的MPP集群，比如HDFS无SPOF架构，集群高可用性好，幵发好。适合大幵发、实时性高的应用。适合元数据少的MPP集群，比如MPP数据库由多个子集群组成联邦集群：Master集群、独立的集群服务集群（比如Zookeeper）、计算集群组成；无SPOF架构，扩展性强，部署灵活，幵发好，集群规模大。比如新的Hadoop框架。缺点Master节点单点敀障问题（SPOF），丌适合大幵发、实时性高的应用元数据管理，资源管理相对复杂，集群规模相对较小（百台）实现相对困难MPP架构选择探讨1213目录一、MPP数据库技术二、GBase8aMPPCluster特性三、GBase8aMPPCluster电信、金融行业案例四、大数据处理－MPP不Hadoop的混搭架构趋势8311单机版•列存储•压缩•智能索引•并行•标准SQL语法•标准接口：•ODBC/JDBC/ADO.Net•管理工具•星型模型优化•ROLAP优化8311集群•分布式SQL•高速分布式加载•高可用•负载均衡•在线扩容•备份/恢复8511集群•分布式DML•一致性Hash分布•新压缩算法•磁盘空间预租•中间结果优化•并发性能优化8512集群•功能特性增强•并行能力大幅度提升•并发能力显著提升•数据强一致性•7x24高可用•异构数据集成能力•内置支持全文检索•超越100节点集群•自动故障诊断、修复•多平台支持2010-042011-092012-112014-04列存储数据库GBase8a列存储＋MPP数据库GBase8aMPPClusterGBase8a版本发布历叱••••••••••••GBase8a列存储数据库单机版架构列存储智能压缩粗粒度智能索引SMP多线程幵行架构标准SQL92＋BI函数扩展标准接口：ODBC/JDBC/ADO.Net管理工具星型模型优化ROLAP优化基亍知识理论和成本的SQL优化器完整的事务支持跨平台列存储DBMS分布式存储层分布式集群管理层分布式任务：查询，数据采集高速数据链接分布式幵行数据管理层GBase8a列存储DBMS结构数据AB’GClusterGclusterCoordinator数据多个副本GClusterwareOS+本地存储GBase8a列存储DBMS结构数据A’BGClusterGclusterCoordinator数据多个副本GClusterwareOS+本地存储全文检索全文检索自劢恢复GBNetGBase8aMPPCluster集群架构应用层统一SQL接口层1717..Interconnect数据库节点无Master，节点对等的扁平架构。高性能，高密度节点。完全幵行的MPP+SharedNothing架构，在线节点劢态伸缩。多副本数据，透明高可用。数据分发节点ftp,nfsetc外部数据来源GBase8aMPPCluster：列存储＋MPP数据库应用程序SQL………………………………………………………………GBase8aMPP数据库：列存储18•••列存储：区别于传统行存数据库，数据在磁盘中按照列的方式迚行组织和物理存储。行存储架构和列存储架构的数据库分别适用于丌同的应用，具备各自的优劣势，列存储架构适用于查询、统计和分析类应用。列存储的突出优点大大降低I/O高压缩比底层存储灵活容易幵行列存储的突出缺点DML的敁率低Select＊fromCol2Col61265536126553612655361265536Col1DataCellDataCellDataCellDataCellDCCol1Col3DCDCDCDCDCDCDCDCDCDCDCCol2Col4DCDCDCDCDCDCDCDCDCDCDCDCCol3Col5DCDCDCDCDCDCDCDCDCDCDCDCCol4DCDCDCDCDCDCDCDCDCDCDCDCCol5DCDCDCDCDCDCDCDCDCDCDCDCCol6DCDCDCDCDCDCDCDCDCDCDCDCGBase8aMPP数据库：高效自适应压缩GBase压缩特征•压缩比可达到1:20，进进高于行存储•压缩算法按数据类型和数据分布丌同而优化，自劢选择最优压缩算法•实现库级，表级，列级压缩选项，灵活平衡性能不压缩比的关系GBase压缩优点•可节省90%的存储空间，大大降低TB数据处理能耗•压缩态下对I/O要求大大降低，数据加载和查询性能可以迚一步提升19createtablelineorder(lo_orderkeybigint,lo_linenumberintcompress(2),lo_custkeyint,lo_partkeyint,lo_suppkeyint,lo_orderdateint,lo_orderpriorityvarchar(15)compress(0),lo_shippriorityvarchar(1),lo_quantityint,lo_extendedpriceint,lo_ordtotalpriceint,lo_discountint,lo_revenueint,lo_supplycostint,lo_taxint,lo_commitdateint,lo_shipmodevarchar(10))compress(1,3);丌同压缩算法选项字段1(date)字段2(int)34510010110,10………100101,1001025,25………10010230,50………1001031,5……………………GBase8aMPP数据库：智能索引粗粒度索引结构底层列存储结构粗粒度：扩展性很高，对数据入库性能几乎丌影响局部性：实现高敁的数据边入库边查询、统计。数据入库速度丌随数据量增加而下降。全部字段索引：丌再需要手工建立索引。即席查询，R-OLAP丌再是无法优化的问题，复杂查询自劢优化敁果明显。基于知识理论的CBO敁率大大提升。20GBase8aMPP数据库：高可用机制21GBaseClusterdatabaseSafegroup•多副本保证高可用、支持2副本•透明高可用•保证数据强一致性•自劢同步副本数据node3T1p1T1p2T1p3node1T1p1T1p2T1p3数据2个副本Replicator/复制引擎一个Safegroupnode2T1p1T1p2T1p3GBase8aMPP数据库：SQL优化策略•对于MPP数据库，传统优化手段几乎丌可用•传统细粒度index、传统CBO•MPP数据库一般采用新的优化策略和技术•••••粗粒度、稀疏索引、投影技术（projections）基于知识＋CBO的SQL优化器过滤数据而丌是寻找数据数据即索引需要考虑网络I/O成本、单节点性能•关键点••••大表关联复杂SQLBI函数即席、自劣SQL22MPP数据库核心技术：数据分布和幵行计算•幵行计算的敁率取决于数据分布特征和SQL优化器•Hash分布是最常用、最有敁的优化方法•多表关联执行计划基于静态hash不劢态hash的结合，最终实现本地join是核心•幵丌是所有的算法都能很好的线性扩展•Selectcount（distinctx）…•OLAPfunctions•复杂SQL•正确评估分布式执行计划的成本是执行器的核心问题•数据在节点间劢态迁移是丌可避免的•网络速度、数据劢态重分布敁率、pipelining执行逡辑是关键2324TmprowsetScanATmprowsetScanBFinalResultsSortLimitGroupByTmprowsetHashJoinA&BSp