olap的多维数据分析

《olap的多维数据分析》由会员分享，可在线阅读，更多相关《olap的多维数据分析（5页珍藏版）》请在金锄头文库上搜索。

1、OLAP 的多维数据分析 1970-01-01 07:00 数据仓库之路 【文章字体：大 中 小】 _联机分析处理(OLAP)的概念最早是由关系数据库之父 E.F.Codd 于 1993 年提出的。当时,Codd认为联机事务处理(OLTP)已不能满足终端用户对数据库查询分析的需要,SQL 对大数据库进行的简单查询也不能满足用户分析的需求。用户的决策分析需要对关系数据库进行大量计算才能得到结果,而查询的结果并不能满足决策者提出的需求。因此 Codd 提出了多维数据库和多维分析的概念,即OLAP。 _一、OLAP 的概念 _根据 OLAP 产品的实际应用情况和用户对 OLAP 产品的需求,人们提出

2、了一种对 OLAP 更简单明确的定义,即共享多维信息的快速分析。 _(1)快速性 _用户对OLAP 的快速反应能力有很高的要求。系统应能在 5 秒内对用户的大部分分析要求做出反应。如果终端用户在 30 秒内没有得到系统响应就会变得不耐烦,因而可能失去分析主线索,影响分析质量。对于大量的数据分析要达到这个速度并不容,因此就更需要一些技术上的支持,如专门的数据存储格式、大量的事先运算、特别的硬件设计等。 _(2)可分析性 _OLAP 系统应能处理与应用有关的任何逻辑分析和统计分析。尽管系统需要事先编程 ,但并不意味着系统已定义好了所有的应用。用户无需编程就可以定义新的专门计算,将其作为分析的一部分

3、,并以用户理想的方式给出报告。用户可以在 OLAP 平台上进行数据分析,也可以连接到其他外部分析工具上,如时间序列分析工具、成本分配工具、意外报警、数据开采等。 _(3)多维性 _多维性是 OLAP 的关键属性。系统必须提供对数据分析的多维视图和分析,包括对层次维和多重层次维的完全支持。事实上,多维分析是分析企业数据最有效的方法,是 OLAP 的灵魂。 _(4)信息性 _不论数据量有多大,也不管数据存储在何处,OLAP 系统应能及时获得信息,并且管理大容量信息。这里有许多因素需要考虑,如数据的可复制性、可利用的磁盘空间、OLAP 产品的性能及与数据仓库的结合度等。 _二、OLAP 的多维数据概

4、念 _多维结构是决策支持的支柱,也是 OLAP 的核心。OLAP 展现在用户面前的是一幅幅多维视图。 _1.维 _假定某某是个百货零售商,有一些因素会影响他的销售业务,如商品、时间、商店或流通渠道,更具体一点,如品牌、月份、地区等。对某一给定的商品,也许他想知道该商品在哪个商店和哪段时间的销售情况。对某一商店,也许他想知道哪个商品在哪段时间的销售情况。在某一时间,也许他想知道哪个商店哪种产品的销售情况。因此,他需要决策支持来帮助制定销售政策。 _这里,商店、时间和产品都是维。各个商店的集合是一维,时间的集合是一维,商品的集合是一维。维就是相同类数据的集合,也可以理解为变量。而每个商店、每段时间

5、、每种商品都是某一维的一个成员。每个销售事实由一个特定的商店、特定的时间和特定的商品组成。 _维有自己固有的属性,如层次结构(对数据进行聚合分析时要用到)、排序(定义变量时要用到)、计算逻辑(是基于矩阵的算法,可有效地指定规则)。这些属性对进行决策支持是非常有用的。 _2.多维性 _人们很容易理解一个二维表(如通常的电子表格),对于三维立方体同样也容易理解。 OLAP 通常将三维立方体的数据进行切片,显示三维的某一平面。如一个立方体有时间维、商品维、收入维,其图形很容易在屏幕上显示出来并进行切片。但是要加一维(如加入商店维),则图形很难想象,也不容易在屏幕上画出来。要突破三维的障碍,就必须理解

6、逻辑维和物理维的差异。OLAP 的多维分析视图就是冲破了物理的三维概念,采用了旋转、嵌套、切片、钻取和高维可视化技术,在屏幕上展示多维视图的结构,使用户直观地理解、分析数据,进行决策支持。 _三、OLAP 的多维数据结构 _数据在多维空间中的分布总是稀疏的、不均匀的。在事件发生的位置,数据聚合在一起,其密度很大。因此,OLAP 系统的开发者要设法解决多维数据空间的数据稀疏和数据聚合问题。事实上,有许多方法可以构造多维数据。 _1.超立方结构 _超立方结构(Hypercube)指用三维或更多的维数来描述一个对象,每个维彼此垂直。数据的测量值发生在维的交叉点上,数据空间的各个部分都有相同的维属性。

7、 _这种结构可应用在多维数据库和面向关系数据库的 OLAP 系统中,其主要特点是简化终端用户的操作。 _超立方结构有一种变形,即收缩超立方结构。这种结构的数据密度更大,数据的维数更少,并可加入额外的分析维。 _2.多立方结构 _在多立方结构(Multicube)中,将大的数据结构分成多个多维结构。这些多维结构是大数据维数的子集,面向某一特定应用对维进行分割,即将超立方结构变为子立方结构。它具有很强的灵活性,提高了数据(特别是稀疏数据)的分析效率。_一般来说,多立方结构灵活性较大,但超立方结构更易于理解。终端用户更容易接近超立方结构,它可以提供高水平的报告和多维视图。但具有多维分析经验的 MIS

8、 专家更喜欢多立方结构,因为它具有良好的视图翻转性和灵活性。多立方结构是存储稀疏矩阵的一个更有效方法,并能减少计算量。因此,复杂的系统及预先建立的通用应用倾向于使用多立方结构,以使数据结构能更好地得到调整,满足常用的应用需求。 _许多产品结合了上述两种结构,它们的数据物理结构是多立方结构,但却利用超立方结构来进行计算,结合了超立方结构的简化性和多立方结构的旋转存储特性。 _3. 活动数据的存储 _用户对某个应用所提取的数据称为活动数据,它的存储有以下三种形式: _(1)关系数据库 _如果数据来源于关系数据库,则活动数据被存储在关系数据库中。在大部分情况下, 数据以星型结构或雪花结构进行存储。

9、_(2)多维数据库 _在这种情况下,活动数据被存储在服务器上的多维数据库中,包括来自关系数据库和终端用户的数据。通常,数据库存储在硬盘上,但为了获得更高的性能,某些产品允许多维数据结构存储在 RAM 上。有些数据被提前计算,计算结果以数组形式进行存储。 _(3)基于客户的文件 _在这种情况下,可以提取相对少的数据放在客户机的文件上。这些数据可预先建立, 如 Web 文件。与服务器上的多维数据库一样,活动数据可放在磁盘或 RAM 上。 _这三种存储形式有不同的性能,其中关系数据库的处理速度大大低于其他两种。 _4.OLAP 数据的处理方式 _OLAP 有三种数据处理方法。事实上,多维数据计算不需

10、要在数据存储位置上进行。 _(1)关系数据库 _即使活动的 OLAP 数据存储在关系数据库中,采用在关系数据库上完成复杂的多维计算也不是较好的选择。因为 SQL 的单语句并不具备完成多维计算的能力,要获得哪怕是最普通的多维计算功能也需要多重 SQL。在许多情况下,一些OLAP 工具用 SQL 做一些计算,然后将计算结果作为多维引擎输入。多维引擎在客户机或中层服务器上做大部分的计算工作 ,这样就可以利用 RAM 来存储数据,提高响应速度。 _(2)多维服务引擎 _大部分 OLAP 应用在多维服务引擎上完成多维计算,并且具有良好的性能。因为这种方式可以同时优化引擎和数据库,而服务器上充分的内存为有

11、效地计算大量数组提供了保证。 _(3)客户机 _在客户机上进行计算,要求用户具备性能良好的 PC 机,以此完成部分或大部分的多维计算。对于日益增多的瘦型客户机,OLAP 产品将把基于客户机的处理移到新的 Web 应用服务器上。 _四、多维数据库 _多维数据库(Multi-Dimesional Database,MDD)可以简单地理解为:将数据存放在一个 n 维数组中,而不是像关系数据库那样以记录的形式存放。因此它存在大量稀疏矩阵,人们可以通过多维视图来观察数据。多维数据库增加了一个时间维,与关系数据库相比,它的优势在于可以提高数据处理速度,加快反应时间,提高查询效率。 _目前有两种 MDD 的

12、 OLAP 产品:基于多维数据库的 MOLAP 和基于关系数据库的 ROLAP。R OLAP 建立了一种新的体系,即星型结构。 _MDD 并没有公认的多维模型,也没有像关系模型那样标准地取得数据的方法(如 SQL、 API 等)。基于 MDD 的OLAP 产品,依据决策支持的内容使用范围也有很大的不同。 _在低端,用户使用基于单用户或小型 LAN 的工具来观察多维数据。这些工具的功能性和实用性可能相当不错,但由于受到规模的限制,它们不具备 OLAP 的所有特性。这些工具使用超立方结构,将模型限制在 n 维形态。当模型足够大且稀疏数据没有控制好时,这种模型将会不堪一击。这些工具使用数据库的大小是

13、以 MB 来计量的,而不是以 GB 计量的,因此只能进行只读操作,且具备有限的复杂计算。 _在高端,OLAP 工具用 4GL提供了完善的开发环境、统计分析、时间序列分析、财政报告、用户接口、多层体系结构、图表等许多其他功能。尽管不同的 OLAP 工具都使用了它们自己的多维数据库,但它们在不同程度上也利用了关系数据库作为存储媒体。因为关系数据库和 OLAP 工具同时在高端服务器上处理,所以速度和效率仍然很快。 _纯多维数据库引擎也被开发出来。尽管这些工具缺乏 4GL 及充分的开发环境,但却有比高端 MDD 工具所使用的数据库更为复杂的数据库。这些工具也具有统计分析、财务分析和时间序列分析等功能,

14、并有自己的 API,允许其对前端的开发环境开放。 _MDD 能提供优良的查询性能。存储在 MDD 中的信息比在关系数据库中的信息具有更详细的索引,可以常驻在内存中。MDD 的信息是以数组形式存放的,所以它可以在不影响索引的情况下更新数据。因此 MDD 非常适合于读写应用。 _五、 OALP 的多维数据分析 _1. 切片和切块 _在多维数据结构中,按二维进行切片,按三维进行切块,可得到所需要的数据。如在“ 城市、产品、时间“三维立方体中进行切块和切片,可得到各城市、各产品的销售情况 _2. 钻取 _钻取包含向下钻取和向上钻取操作， 钻取的深度与维所划分的层次相对应。 _3.旋转 _通过旋转可以得到不同视角的数据。