1 / 29

OLAP( on-line analytical processing ) 介绍

OLAP( on-line analytical processing ) 介绍. 报告人：张忠平 2001/11/05. OLAP 介绍提纲. 一、发展背景 二、什么是 OLAP ？ 三、相关基本概念 四、 OLAP 特性 五、 OLAP 多维数据结构 六、 OLAP 多维数据分析 七、 OLAP 分类 八、 OLAP 体系结构 九、 OLAP 评价准则 十、流行的 OLAP 工具 十一、 OLAP 发展 十二、 OLAP 展望. 一、发展背景.

dean
Download Presentation

OLAP( on-line analytical processing ) 介绍

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. OLAP(on-line analytical processing )介绍 • 报告人：张忠平 • 2001/11/05

  2. OLAP介绍提纲 • 一、发展背景 • 二、什么是OLAP？ • 三、相关基本概念 • 四、OLAP特性 • 五、OLAP多维数据结构 • 六、OLAP多维数据分析 • 七、OLAP分类 • 八、OLAP体系结构 • 九、OLAP评价准则 • 十、流行的OLAP工具 • 十一、OLAP发展 • 十二、OLAP展望

  3. 一、发展背景 • 60年代，关系数据库之父E.F.Codd提出了关系模型，促进了联机事务处理(OLTP)的发展(数据以表格的形式而非文件方式存储)。1993年，E.F.Codd提出了OLAP概念，认为OLTP已不能满足终端用户对数据库查询分析的需要，SQL对大型数据库进行的简单查询也不能满足终端用户分析的要求。用户的决策分析需要对关系数据库进行大量计算才能得到结果，而查询的结果并不能满足决策者提出的需求。因此，E.F.Codd提出了多维数据库和多维分析的概念，即OLAP。 • OLTP数据 OLAP数据 • 原始数据 导出数据 • 细节性数据 综合性和提炼性数据 • 当前值数据 历史数据 • 可更新 不可更新，但周期性刷新 • 一次处理的数据量小 一次处理的数据量大 • 面向应用，事务驱动 面向分析，分析驱动 • 面向操作人员，支持日常操作 面向决策人员，支持管理需要

  4. 二、什么是OLAP？ • 定义1 ：OLAP(联机分析处理)是针对特定问题的联机数据访问和分析。通过对信息(维数据)的多种可能的观察形式进行快速、稳定一致和交互性的存取，允许管理决策人员对数据进行深入观察。 • 定义2 ：OLAP(联机分析处理)是使分析人员、管理人员或执行人员能够从多种角度对从原始数据中转化出来的、能够真正为用户所理解的、并真实反映企业维特性的信息进行快速、一致、交互地存取，从而获得对数据的更深入了解的一类软件技术。(OLAP委员会的定义) • OLAP的目标是满足决策支持或多维环境特定的查询和报表需求，它的技术核心是“维”这个概念，因此OLAP也可以说是多维数据分析工具的集合。

  5. 三、相关基本概念 • 1.维：是人们观察数据的特定角度，是考虑问题时的一类属性，属性集合构成一个维(时间维、地理维等)。 • 2.维的层次：人们观察数据的某个特定角度(即某个维)还可以存在细节程度不同的各个描述方面(时间维：日期、月份、季度、年)。 • 3.维的成员：维的一个取值。是数据项在某维中位置的描述。(“某年某月某日”是在时间维上位置的描述) • 4.多维数组：维和变量的组合表示。一个多维数组可以表示为：(维1，维2，…，维n，变量)。(时间，地区，产品，销售额) • 5.数据单元(单元格)：多维数组的取值。(2000年1月，上海，笔记本电脑，$100000)

  6. 四、OLAP特性 • (1)快速性:用户对OLAP的快速反应能力有很高的要求。系统应能在5秒内对用户的大部分分析要求做出反应。 • (2)可分析性:OLAP系统应能处理与应用有关的任何逻辑分析和统计分析。 • (3)多维性:多维性是OLAP的关键属性。系统必须提供对数据的多维视图和分析,包括对层次维和多重层次维的完全支持。。 • (4)信息性:不论数据量有多大，也不管数据存储在何处，OLAP系统应能及时获得信息，并且管理大容量信息。

  7. 五、OLAP多维数据结构 • 1.超立方结构(Hypercube) • 超立方结构指用三维或更多的维数来描述一个对象,每个维彼此垂直。数据的测量值发生在维的交叉点上,数据空间的各个部分都有相同的维属性。(收缩超立方结构。这种结构的数据密度更大,数据的维数更少,并可加入额外的分析维)。 • 2.多立方结构(Multicube) • 即将超立方结构变为子立方结构。面向某一特定应用对维进行分割, 它具有很强的灵活性,提高了数据(特别是稀疏数据)的分析效率。

  8. 六、OLAP多维数据分析 • 1.切片和切块(Slice and Dice) • 在多维数据结构中,按二维进行切片,按三维进行切块,可得到所需要的数据。如在“城市、产品、时间”三维立方体中进行切块和切片,可得到各城市、各产品的销售情况。 • 2.钻取(Drill) • 钻取包含向下钻取(Drill-down)和向上钻取(Drill-up)/上卷(Roll-up)操作， 钻取的深度与维所划分的层次相对应。 • 3.旋转(Rotate)/转轴(Pivot) • 通过旋转可以得到不同视角的数据。

  9. OLAP的分析方法(一)切片、切块

  10. 60 OLAP的分析方法(二)钻取 按时间维向上钻取 按时间维向下钻取

  11. OLAP的分析方法(三)旋转

  12. OLAP Client OLAP Server OLAP 按照存储方式 按照处理地点 HOLAP MOLAP ROLAP 七、OLAP分类

  13. OLTP、ROLAP与MOLAP模式

  14. Market Table Period Table Market_id Time_id Sales Table Market_Desc Period_Desc District Quarter Region Time_id Year Product_id "Dimension Table" "Dimension Table" Market_id Scenario Product Table Dollars Product_id Units Scenario Table Product_Desc Discount% Scenario Brand "Fact Table" Actual Size "Dimension Table" Profit "Dimension Table" ROLAP的星型模式(Star Schema) • 事实表：用来存储事实的度量值和各个维的码值。 • 维 表：用来存放维的元数据（维的层次、成员类别等描述信息）。 Budget

  15. MOLAP的多维立方体(Multicube)

  16. 产品名称 产品名称 东北 地区 地区 东北 销售量 西北 西北 销售量 华北 华北 总和 冰箱 冰箱 冰箱 冰箱 东北 东北 50 50 50 50 60 60 100 100 210 冰箱 冰箱 彩电 彩电 西北 40 西北 40 60 60 70 70 80 80 190 空调 冰箱 冰箱 空调 90 华北 华北 90 100 100 120 120 140 140 350 冰箱 总和 彩电 180 东北 总和 40 250 210 320 750 彩电 彩电 东北 西北 40 70 彩电 彩电 华北 西北 80 70 空调 彩电 东北 华北 80 90 空调 彩电 西北 总和 190 120 空调 空调 华北 东北 140 90 空调 西北 120 空调 华北 140 空调 总和 350 总和 东北 180 总和 西北 250 总和 华北 320 总和 总和 750 数据组织形式 • RDB数据组织 - MDDB数据组织 - 关系表中综合数据的存放 • 多维数据库中综合数据的存放

  17. ROLAP优势 没有大小限制 现有的关系数据库的技术可以沿用. 可以通过SQL实现详细数据与概要数据的存储 现有关系型数据库已经对OLAP做了很多优化，包括并行存储、并行查询、并行数据管理、基于成本的查询优化、位图索引、SQL 的OLAP扩展(cube,rollup)等大大提高ROALP的速度 MOLAP优势 性能好、响应速度快 专为OLAP所设计 支持高性能的决策支持计算 复杂的跨维计算 多用户的读写操作 行级的计算 ROLAP与MOLAP比较

  18. ROLAP缺点 一般比MDD响应速度慢 不支持有关预计算的读写操作 SQL无法完成部分计算 无法完成多行的计算 无法完成维之间的计算 MOLAP缺点 增加系统复杂度，增加系统培训与维护费用 受操作系统平台中文件大小的限制，难以达到TB 级(只能10~20G) 需要进行预计算，可能导致数据爆炸 无法支持维的动态变化 缺乏数据模型和数据访问的标准 ROLAP与MOLAP比较(续)

  19. Database Server RDBMS Database Server R DBMS Front-end Tool Front-end Tool Info. Request Load SQL Result Set Result Set MOALP Architecture MOLAP Server Metadata Request Processing ROLAP Server Info. Request SQL Metadata Request Processing Result Set Result Set ROALP Architecture 八、OLAP体系结构 • ROLAP Architecture • MOLAP Architecture

  20. Database Server RDBMS Front-end Tool SQL Query Result Set OR Info. Request Load MOLAP Server SQL Result Set Result Set Hybrid Architecture 八、HOLAP体系结构(续) • HOLAP Architecture

  21. 九、OLAP评价准则 • 准则1OLAP模型必须提供多维概念模型 • 准则2透明性准则 • 准则3存取能力准则 • 准则4稳定的报表性能 • 准则5客户/服务器体系结构 • 准则6维的等同性准则 • 准则7动态稀疏矩阵处理准则 • 准则8多用户支持能力准则 • 准则9非受限的跨维操作 • 准则10直观的数据处理 • 准则11灵活的报表生成 • 准则12非受限的维与维的层次

  22. OLAP产品 Hyperion Essbase Oracle Express IBM DB2 OLAP Server Sybase Power dimension Informix Metacube Microsoft Plato Brio Cognos Business Object MicroStrategy OLAP产品涉及的业务操作 由外部或内部数据源批量装入数据 由业务系统增量装入数据 沿数据层次汇总数据 对基于业务模型的新数据进行计算 时间序列分析 高复杂的查询 沿数据层次细化分析 随机查询 多个联机会话(多用户同时访问) 十、流行的OLAP工具介绍

  23. •Hyperion Essbase 以服务器为中心的分布式体系结构 有超过100个的应用程序 有300多个用Essbase作为平台的开发商 具有几百个计算公式，支持多种计算 用户可以自己构件复杂的查询。 快速的响应时间，支持多用户同时读写 有30多个前端工具可供选择 支持多种财务标准 能与ERP或其他数据源集成 全球用户超过1500家 Oracle Express Oracle DW支持GB~TB数量级 采用类似数组的结构，避免了连接操作，提高分析性能 提供一组存储过程语言来支持对数据的抽取 用户可通过Web和电子表格使用 灵活的数据组织方式，数据可以存放在Express Server内，也可直接在RDB上使用 有内建的分析函数和4GL用户自己定制查询 全球超过3000家 流行的OLAP工具介绍(续)

  24. IBM DB2 OLAP Server 把Hyperion Essbase的OLAP引擎和DB2的关系数据库集成在一起。 与Essbase API完全兼容 数据用星型模型存放在关系数据库DB2中 Informix Metacube 采用metacube技术，通过OLE和ODBC对外开放， 采用中间表技术实现多维分析引擎，提高响应时间和分析能力 开放的体系结构可以方便地与其他数据库及前台工具进行集成 Sybase Power dimension 数据垂直分割（按“列”存储） 采用了突破性的数据存取方法------bit-wise索引技术 在数据压缩和并行处理方面有多到之处 提供有效的预连接（Pro-Jion）技术 流行的OLAP工具介绍(续)

  25. 十一、OLAP发展 • 应用领域 • 市场和销售分析(Marketing and Sales analysis) • 电子商务分析(Clickstream analysis) • 基于历史数据的营销(Database marketing) • 预算(Budgeting) • 财务报告与整合(Financial reporting and consolidation) • 管理报告(Management reporting) • 利益率分析(Profitability analysis) • 质量分析(Quality analysis) • OLAP标准APB-1(AQT-Analytical Query Time作为统计指标)

  26. 十一、OLAP发展 (续) • 从联机分析处理到联机分析挖掘(OLAM/OLAP挖掘) • 将联机分析处理与数据挖掘以及在多维数据库中发现知识集成在一起。 • 联机分析挖掘提供在不同的数据子集和不同的抽象层上进行数据挖掘的工具. • 联机分析挖掘为用户选择所期望的数据挖掘功能动态修改挖掘任务提供了灵活性 。 • 超立方体计算与传统挖掘算法的结合 • 先进行立方体计算，后进行数据挖掘 • 先对多维数据作数据挖掘，然后再利用立方体计算算法对挖掘结果分析 • 立方体计算与数据挖掘同时进行 • 回溯特性 • OLAP基于Web的应用 • 静态方法 静态HTML报表 • 动态方法 通过HTML模板及元数据动态生成报表 • 改进方法 使用Java或ActiveX

  27. 基于约束的数据挖掘 挖掘结果 第四层 用户界面 用户图形界面API 第三层 OLAP/OLAM OLAM 引擎 OLAP 引擎 数据方API MDDB 元数据 第二层 多维数据库 数据库API 第一层 数据存储 数据过滤 数据集成 过滤 数据仓库 数据清理 数据库 数据库 数据集成 一个集成的OLAM和OLAP结构

  28. 静态方法 静态HTML报表 动态方法 通过HTML模板及元数据动态生成报表 改进方法 使用Java或ActiveX HTML Java Scrip ActiveX 客户浏览器 CGI API Web服务器应用 OLAP Server Database Server 基于Web的OLAP结构 OLAP的Web表现方式

  29. 十二、 OLAP展望 • 面向对象的联机分析处理 • O3LAP(Object-Oriented OLAP) • 对象关系的联机分析处理 • OROLAP (Object Relational OLAP) • 分布式联机分析处理 • DOLAP (Distributed OLAP) • 时态联机分析处理 • TOLAP (Temporal OLAP)

More Related