`

Oracle OLAP 与 OLTP 介绍

 
阅读更多

 

Oracle OLAP 与 OLTP 介绍


     
数据处理大致可以分成两大类:联机事务处理OLTPon-line transaction processing)、联机分析处理OLAPOn-Line Analytical Processing)。OLTP是传统的关系型数据库的主要应用,主要是基本的、日常的事务处理,例如银行交易。OLAP是数据仓库系统的主要应用,支持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果。

OLTP 系统强调数据库内存效率,强调内存各种指标的命令率,强调绑定变量,强调并发操作;

OLAP 系统则强调数据分析,强调SQL执行市场,强调磁盘I/O,强调分区等。

OLTPOLAP之间的比较

 



 

什么是OLTP

OLTP,也叫联机事务处理(Online Transaction Processing),表示事务性非常高的系统,一般都是高可用的在线系统,以小的事务以及小的查询为主,评估其系统的时候,一般看其每秒执行的Transaction以及Execute SQL的数量。在这样的系统中,单个数据库每秒处理的Transaction往往超过几百个,或者是几千个,Select 语句的执行量每秒几千甚至几万个。典型的OLTP系统有电子商务系统、银行、证券等,如美国eBay的业务数据库,就是很典型的OLTP数据库。

 

OLTP系统最容易出现瓶颈的地方就是CPU与磁盘子系统。

1CPU出现瓶颈常表现在逻辑读总量与计算性函数或者是过程上,逻辑读总量等于单个语句的逻辑读乘以执行次数,如果单个语句执行速度虽然很快,但是执行次数非常多,那么,也可能会导致很大的逻辑读总量。设计的方法与优化的方法就是减少单个语句的逻辑读,或者是减少它们的执行次数。另外,一些计算型的函数,如自定义函数、decode等的频繁使用,也会消耗大量的CPU时间,造成系统的负载升高,正确的设计方法或者是优化方法,需要尽量避免计算过程,如保存计算结果到统计表就是一个好的方法。

2磁盘子系统在OLTP环境中,它的承载能力一般取决于它的IOPS处理能力因为在OLTP环境中,磁盘物理读一般都是db file sequential read,也就是单块读,但是这个读的次数非常频繁。如果频繁到磁盘子系统都不能承载其IOPS的时候,就会出现大的性能问题。

 

OLTP比较常用的设计与优化方式为Cache技术与B-tree索引技术,Cache决定了很多语句不需要从磁盘子系统获得数据,所以,Web cacheOracle data bufferOLTP系统是很重要的。另外,在索引使用方面,语句越简单越好,这样执行计划也稳定,而且一定要使用绑定变量,减少语句解析,尽量减少表关联,尽量减少分布式事务,基本不使用分区技术、MV技术、并行技术及位图索引。因为并发量很高,批量更新时要分批快速提交,以避免阻塞的发生。

OLTP 系统是一个数据块变化非常频繁,SQL 语句提交非常频繁的系统 对于数据块来说,应尽可能让数据块保存在内存当中,对于SQL来说,尽可能使用变量绑定技术来达到SQL 重用,减少物理I/O 和重复的SQL 解析,从而极大的改善数据库的性能。 

这里影响性能除了绑定变量,还有可能是热快(hot block)。 当一个块被多个用户同时读取时,Oracle 为了维护数据的一致性,需要使用Latch来串行化用户的操作。当一个用户获得了latch后,其他用户就只能等待,获取这个数据块的用户越多,等待就越明显。 这就是热快的问题。 这种热快可能是数据块,也可能是回滚端块。 对于数据块来讲,通常是数据库的数据分布不均匀导致,如果是索引的数据块,可以考虑创建反向所以来达到重新分布数据的目的,对于回滚段数据块,可以适当多增加几个回滚段来避免这种争用。

 

 

 

什么是OLAP

OLAP,也叫联机分析处理(Online Analytical Processing)系统,有的时候也叫DSS决策支持系统,就是我们说的数据仓库。在这样的系统中,语句的执行量不是考核标准,因为一条语句的执行时间可能会非常长,读取的数据也非常多。所以,在这样的系统中,考核的标准往往是磁盘子系统的吞吐量(带宽),如能达到多少MB/s的流量。

磁盘子系统的吞吐量则往往取决于磁盘的个数,这个时候,Cache基本是没有效果的,数据库的读写类型基本上是db file scattered readdirect path read/write。应尽量采用个数比较多的磁盘以及比较大的带宽,如4Gb的光纤接口。

 

OLAP系统中,常使用分区技术、并行技术。

分区技术OLAP系统中的重要性主要体现在数据库管理上,比如数据库加载,可以通过分区交换的方式实现,备份可以通过备份分区表空间实现,删除数据可以通过分区进行删除,至于分区在性能上的影响,它可以使得一些大表的扫描变得很快(只扫描单个分区)另外,如果分区结合并行的话,也可以使得整个表的扫描会变得很快。总之,分区主要的功能是管理上的方便性,它并不能绝对保证查询性能的提高,有时候分区会带来性能上的提高,有时候会降低。

并行技术除了与分区技术结合外,在Oracle 10g中,与RAC结合实现多节点的同时扫描,效果也非常不错,可把一个任务,如select的全表扫描,平均地分派到多个RAC的节点上去。

 

OLAP系统中,不需要使用绑定(BIND)变量,因为整个系统的执行量很小,分析时间对于执行时间来说,可以忽略,而且可避免出现错误的执行计划。但是OLAP中可以大量使用位图索引,物化视图,对于大的事务,尽量寻求速度上的优化,没有必要像OLTP要求快速提交,甚至要刻意减慢执行的速度。

绑定变量真正的用途是在OLTP系统中,这个系统通常有这样的特点,用户并发数很大,用户的请求十分密集,并且这些请求的SQL 大多数是可以重复使用的。

 

对于OLAP系统来说,绝大多数时候数据库上运行着的是报表作业,执行基本上是聚合类的SQL 操作,比如group by,这时候,把优化器模式设置为all_rows是恰当的。 而对于一些分页操作比较多的网站类数据库,设置为first_rows会更好一些。 但有时候对于OLAP 系统,我们又有分页的情况下,我们可以考虑在每条SQL 中用hint 如:

Select /*+first_rows(10) */ a.* from table a;

 

 

分开设计与优化

在设计上要特别注意,如在高可用的OLTP环境中,不要盲目地把OLAP的技术拿过来用。

如分区技术,假设不是大范围地使用分区关键字,而采用其它的字段作为where条件,那么,如果是本地索引,将不得不扫描多个索引,而性能变得更为低下。如果是全局索引,又失去分区的意义。

并行技术也是如此,一般在完成大型任务时才使用,如在实际生活中,翻译一本书,可以先安排多个人,每个人翻译不同的章节,这样可以提高翻译速度。如果只是翻译一页书,也去分配不同的人翻译不同的行,再组合起来,就没必要了,因为在分配工作的时间里,一个人或许早就翻译完了。

位图索引也是一样,如果用在OLTP环境中,很容易造成阻塞与死锁。但是,在OLAP环境中,可能会因为其特有的特性,提高OLAP的查询速度。MV也是基本一样,包括触发器等,在DML频繁的OLTP系统上,很容易成为瓶颈,甚至是Library Cache等待,而在OLAP环境上,则可能会因为使用恰当而提高查询速度。

对于OLAP系统,在内存上可优化的余地很小,增加CPU 处理速度和磁盘I/O 速度是最直接的提高数据库性能的方法,当然这也意味着系统成本的增加。

比如我们要对几亿条或者几十亿条数据进行聚合处理,这种海量的数据,全部放在内存中操作是很难的,同时也没有必要,因为这些数据快很少重用,缓存起来也没有实际意义,而且还会造成物理I/O相当大。 所以这种系统的瓶颈往往是磁盘I/O上面的。

对于OLAP系统,SQL 的优化非常重要,因为它的数据量很大,做全表扫描和索引对性能上来说差异是非常大的。

 

  • 大小: 31.1 KB
分享到:
评论

相关推荐

    基于Oracle的OLTP与OLAP数据库内存设计和优化.pdf

    基于Oracle的OLTP与OLAP数据库内存设计和优化.pdf

    基于Oracle的OLTP与OLAP数据库设计及实现

    绍了OLAP和0I.TP处理系统的概念,根据这两种数据库应用在实时性、并发性及数据量大小等方面的 不同,数据库在设计方面侧重的技术各有不同,阐述了数据库设计技术,即内存设计、变量绑定、sQL并行执行、 表分区存储...

    OLAP_OLTP优化.doc

    Oracle决策支持系统下的性能调整和优化原则

    基于Oracle的OLTP与OLAP数据库设计及实现.pdf

    基于Oracle的OLTP与OLAP数据库设计及实现.pdf

    2013年中国数据库大会-17-DM7 MPP架构——同时满足OLAP与OLTP需求

    一年一度的中国数据库技术大会(DTCC)又将与大家见面了! 2013年4月18~4.20日,北京福朋喜来登酒店,第四届中国数据库技术大会将拉开序幕。 自2010年以来,国内领先的IT专业网站IT168联合旗下ITPUB、...

    数据处理OLTP与OLAP的概念.pdf

    本文简介OLTP和OLAP的工作原理,描述了OLAP和OLTP的工作场景、技术选型、特点及对比,希望大家喜欢!...然而,无论数据库管理系统如何更新与发展,涉及数据处理的核心术语与概念永远离不 开这两个名词,即 OLTP 与 OLAP

    oracle学习经典教程

    1.1 ORACLE OLAP 与OLTP 介绍..................24 1.1.1 什么是OLTP ....25 1.1.2 什么是OLAP....26 1.1.3 在OLAP 系统中,常使用分区技术、并行技术....26 1.1.4 分开设计与优化..........................

    TianleSoftware Oracle中文学习手册

    1.1 ORACLE OLAP 与 OLTP 介绍 .............................................................................. 1.1.1 什么是 OLTP .............................................................................

    OLTP与OLAP业务系统的Oracle优化思路[归类].pdf

    OLTP与OLAP业务系统的Oracle优化思路[归类].pdf

    Oracle 8i 数据仓库

    2.1.2 Oracle OLAP产品的新发展 13 2.1.3 Oracle 集成的决策支持产品工具集 16 2.2 市场发展分析应用 17 2.3 企业运作分析应用 18 2.4 平衡市场和企业运作目标的应用 18 2.5 ORACLE商业智能系统 19 2.6 ORACLE数据...

    Oracle数据仓库解决方案

    2.1.2 Oracle OLAP产品的新发展 13 2.1.3 Oracle 集成的决策支持产品工具集 16 2.2 市场发展分析应用 17 2.3 企业运作分析应用 18 2.4 平衡市场和企业运作目标的应用 18 2.5 ORACLE商业智能系统 19 2.6 ORACLE数据...

    提高Oracle数据库性能的四个误区

    为了提高性能,我们针对Oracle数据库本身...数据库应用大体可以分为OLAP和OLTP两大类,即:联机事务分析(数据仓库)和联机事务处理(事务应用)我们的应用系统,其应用特性主要是联机事务处理,又包含了少量的数据仓库特性。

    oracle 数据仓库解决方案

    2.1.2 Oracle OLAP产品的新发展 13 2.1.3 Oracle 集成的决策支持产品工具集 16 2.2 市场发展分析应用 17 2.3 企业运作分析应用 18 2.4 平衡市场和企业运作目标的应用 18 2.5 ORACLE商业智能系统 19 2.6 ORACLE数据...

    oracle9i oracle11g oracle10g 性能调优 基础学习 视频地址

    ORACLE_sql_tune 2 ORACLE_oracle体系结构1 3 ORACLE_oracle体系结构2 3 ...正对oltp/olap系统按比例分配;限制一组用户的分配; 14 ORACLE_sql_tune 10G以后没有专门的sql调优了。扩大成了大的调优了。 14

    一文了解华为Gauss数据库:开发历程、OLTP&OLAP特点、行式&列式存储,及与Oracle和AWS对比…

    数据库的开发难度,不仅体现在与其他基础器件的适配,更在于如何实现对数据高效、稳定、持续的管理。Oracle、微软的数据库之所以能长久不衰,一方面在于其强大的技术开发和产品升级迭代能力,另一方面在于其对数据库...

    Oracle精髓(第4版)

    最新的Oracle数据库11g特性:查询结果集缓存、自动内存管理、实时应用程序测试、高级压缩、全面回忆、活跃数据守卫选项以及对OLAP选项的变更(作为物化视图进行透明访问和管理)、Flashback事务命令、透明数据加密、...

    Oracle笔记

    3.2 事务处理(OLAP、OLTP):insert、delete、update较多 OLAP:on line transaction process 3.3 数据仓库:统计、汇总、决策支持。select 执行较多,要求执行select速度要快 3.4 通用:介于在事务处理和数据仓库...

    让Oracle跑得更快 Oracle 10g性能分析与优化思路.part2.rar

    9.2 为什么说oltp必须要求变量绑定而olap不应该绑定变量 241 9.3 bind peaking 248 第10章 sql_trace和10046事件 254 10.1 sql_trace 254 10.2 tkprof工具 256 10.3 10046事件 268 第11章 10053事件 276 第12章 性能...

    oracle产品表空间部局

    oracle产品表空间部局 如:OLTP、OLAP

    2013年中国数据库大会PPT第一部分

    17.DM7 MPP架构——同时满足OLAP与OLTP需求.pdf 18.SAP 让大数据飞翔.pdf 19.阿里数据库关键技术.pdf 20.基于Oracle的SQL优化典型案例分.pdf 21.赢在起点–谈数据库设计规范.pdf 22.大型业务系统Oracle数据库 10G...

Global site tag (gtag.js) - Google Analytics