数据库与数据仓库的区别实际讲的是OLTP与OLAP的区别

2022-10-25,,,,

什么是数据仓库

数据仓库,英文名称为Data Warehouse,可简写为DW或DWH。数据仓库,是为企业所有级别的决策制定过程,提供所有类型数据支持的战略集合。它出于分析性报告和决策支持目的而创建。 为需要业务智能的企业,提供指导业务流程改进、监视时间、成本、质量以及控制。

数据仓库的特点

1.数据仓库的数据是面向主题的

与传统数据库面向应用进行数据组织的特点相对应,数据仓库中的数据是面向主题进行组织的。什么是主题呢?首先,主题是一个抽象的概念,是较高层次上企业信息系统中的数据综合、归类并进行分析利用的抽象。在逻辑意义上,它是对应企业中某一宏观分析领域所涉及的分析对象。面向主题的数据组织方式,就是在较高层次上对分析对象的数据的一个完整、一致的描述,能完整、统一地刻划各个分析对象所涉及的企业的各项数据,以及数据之间的联系。所谓较高层次是相对面向应用的数据组织方式而言的,是指按照主题进行数据组织的方式具有更高的数据抽象级别。

2. 数据仓库的数据是集成的

数据仓库的数据是从原有的分散的数据库数据抽取来的。操作型数据与DSS分析型数据之间差别甚大。第一,数据仓库的每一个主题所对应的源数据在原有的各分散数据库中有许多重复和不一致的地方,且来源于不同的联机系统的数据都和不同的应用逻辑捆绑在一起;第二,数据仓库中的综合数据不能从原有的数据库系统直接得到。因此在数据进入数据仓库之前,必然要经过统一与综合,这一步是数据仓库建设中最关键、最复杂的一步,所要完成的工作有:
    (1)要统一源数据中所有矛盾之处,如字段的同名异义、异名同义、单位不统一、字长不一致,等等。
    (2)进行数据综合和计算。数据仓库中的数据综合工作可以在从原有数据库抽取 数据时生成,但许多是在数据仓库内部生成的,即进入数据仓库以后进行综合生成的。

3. 数据仓库的数据是不可更新的

数据仓库的数据主要供企业决策分析之用,所涉及的数据操作主要是数据查询,一般情况下并不进行修改操作。数据仓库的数据反映的是一段相当长的时间内历史数据的内容,是不同时点的数据库快照的集合,以及基于这些快照进行统计、综合和重组的导出数据,而不是联机处理的数据。数据库中进行联机处理的数据经过集成输入到数据仓库中,一旦数据仓库存放的数据已经超过数据仓库的数据存储期限,这些数据将从当前的数据仓库中删去。因为数据仓库只进行数据查询操作,所以数据仓库管理系统相比数据库管理系统而言要简单得多。数据库管理系统中许多技术难点,如完整性保护、并发控制等等,在数据仓库的管理中几乎可以省去。但是由于数据仓库的查询数据量往往很大,所以就对数据查询提出了更高的要求,它要求采用各种复杂的索引技术;同时由于数据仓库面向的是商业企业的高层管理者,他们会对数据查询的界面友好性和数据表示提出更高的要求。

4. 数据仓库的数据是随时间不断变化的

数据仓库中的数据不可更新是针对应用来说的,也就是说,数据仓库的用户进行分析处理时是不进行数据更新操作的。但并不是说,在从数据集成输入数据仓库开始到最终被删除的整个数据生存周期中,所有的数据仓库数据都是永远不变的。
    数据仓库的数据是随时间的变化而不断变化的,这是数据仓库数据的第四个特征。这一特征表现在以下3方面:
    (1)数据仓库随时间变化不断增加新的数据内容。数据仓库系统必须不断捕捉OLTP数据库中变化的数据,追加到数据仓库中去,也就是要不断地生成OLTP数据库的快照,经统一集成后增加到数据仓库中去;但对于确实不再变化的数据库快照,如果捕捉到新的变化数据,则只生成一个新的数据库快照增加进去,而不会对原有的数据库快照进行修改。
    (2)数据仓库随时间变化不断删去旧的数据内容。数据仓库的数据也有存储期限,一旦超过了这一期限,过期数据就要被删除。只是数据仓库内的数据时限要远远长于操作型环境中的数据时限。在操作型环境中一般只保存有60~90天的数据,而在数据仓库中则需要保存较长时限的数据(如5~10年),以适应DSS进行趋势分析的要求。
    (3)数据仓库中包含有大量的综合数据,这些综合数据中很多跟时间有关,如数据经常按照时间段进行综合,或隔一定的时间片进行抽样等等。这些数据要随着时间的变化不断地进行重新综合。因此,数据仓库的数据特征都包含时间项,以标明数据的历史时期。

数据库与数据仓库的区别实际讲的是OLTP与OLAP的区别

操作型处理,叫联机事务处理OLTP(On-Line Transaction Processing,),也可以称面向交易的处理系统,它是针对具体业务在数据库联机的日常操作,通常对少数记录进行查询、修改。用户较为关心操作的响应时间、数据的安全性、完整性和并发支持的用户数等问题。传统的数据库系统作为数据管理的主要手段,主要用于操作型处理。

分析型处理,叫联机分析处理OLAP(On-Line Analytical Processing)一般针对某些主题的历史数据进行分析,支持管理决策。

数据仓库架构分层

数据仓库标准上可以分为四层:ODS(临时存储层)、PDW(数据仓库层)、DM(数据集市层)、APP(应用层)。

  ODS层:

为临时存储层,是接口数据的临时存储区域,为后一步的数据处理做准备。一般来说ODS层的数据和源系统的数据是同构的,主要目的是简化后续数据加工处理的工作。从数据粒度上来说ODS层的数据粒度是最细的。ODS层的表通常包括两类,一个用于存储当前需要加载的数据,一个用于存储处理完后的历史数据。历史数据一般保存3-6个月后需要清除,以节省空间。但不同的项目要区别对待,如果源系统的数据量不大,可以保留更长的时间,甚至全量保存;

PDW层:

年的数据。

DM

数据集市层,这层数据是面向主题来组织数据的,通常是星形或雪花结构的数据。从数据粒度来说,这层的数据是轻度汇总级的数据,已经不存在明细数据了。从数据的时间跨度来说,通常是PDW层的一部分,主要的目的是为了满足用户分析的需求,而从分析的角度来说,用户通常只需要分析近几年(如近三年的数据)的即可。从数据的广度来说,仍然覆盖了所有业务数据。

APP层:

为应用层,这层数据是完全为了满足具体的分析需求而构建的数据,也是星形或雪花结构的数据。从数据粒度来说是高度汇总的数据。从数据的广度来说,则并不一定会覆盖所有业务数据,而是DM层数据的一个真子集,从某种意义上来说是DM层数据的一个重复。从极端情况来说,可以为每一张报表在APP层构建一个模型来支持,达到以空间换时间的目的数据仓库的标准分层只是一个建议性质的标准,实际实施时需要根据实际情况确定数据仓库的分层,不同类型的数据也可能采取不同的分层方法。

为什么要对数据仓库分层:

1用空间换时间,通过大量的预处理来提升应用系统的用户体验(效率),因此数据仓库会存在大量冗余的数据;

2如果不分层的话,如果源业务系统的业务规则发生变化将会影响整个数据清洗过程,工作量巨大

3通过数据分层管理可以简化数据清洗的过程,因为把原来一步的工作分到了多个步骤去完成,相当于把一个复杂的工作拆成了多个简单的工作,把一个大的黑盒变成了一个白盒,每一层的处理逻辑都相对简单和容易理解,这样我们比较容易保证每一个步骤的正确性,当数据发生错误的时候,往往我们只需要局部调整某个步骤即可。

数据库与数据仓库的区别实际讲的是OLTP与OLAP的区别的相关教程结束。

《数据库与数据仓库的区别实际讲的是OLTP与OLAP的区别.doc》

下载本文的Word格式文档,以方便收藏与打印。

  • hbase与传统的关系数据库的区别有哪些
    hbase与传统的关系数据库的区别有哪些

    数据模型:HBase是基于列存储的数据库,存储方式类似于一个巨大的哈希表,而传统的关系数据库是基于行存储的,数据存储方式是以行为单位的表格结构。 数据查询:HBase支持快速的随机读写操作,适合处理海量数...

    2024-05-07编程代码,
  • 数据库中right的使用方法是什么
    数据库中right的使用方法是什么

    在数据库中,RIGHT函数用于从字段值的右边提取指定数量的字符。其基本语法如下: RIGHT(string, length) 其中,string是要提取字符的字段值或字符串,length是要提取的字符的数量。 例如,如果我们有一个名为&qu...

    2024-04-30编程代码
  • linux创建数据库的方法是什么
    linux创建数据库的方法是什么

    在Linux操作系统中,您可以使用以下两种方法来创建数据库: 使用命令行工具: 首先,您需要安装MySQL或者其他的数据库管理系统。 打开终端,使用以下命令登录数据库管理系统: mysql -u 用户名 -p 输入密码...

    2024-04-23编程代码,
  • linux怎么创建数据库用户及用户组
    linux怎么创建数据库用户及用户组

    在Linux上创建数据库用户和用户组通常是通过使用数据库管理系统自带的工具来完成的,比如MySQL、PostgreSQL等。下面以MySQL为例来介绍如何创建数据库用户及用户组。 首先登录MySQL数据库: mysql -u root -p ...

    2024-04-23编程代码,
  • linux创建数据库要注意哪些事项
    linux创建数据库要注意哪些事项

    确保已经安装了数据库管理系统软件,比如MySQL、PostgreSQL等。 确保已经分配了足够的存储空间用于数据库文件存储。 确保数据库服务已经启动并且正常运行。 确保数据库账户和权限设置正确,以确保数据库...

    2024-04-23编程代码,
  • 数据库添加数据的方法是什么
    数据库添加数据的方法是什么

    向数据库中添加数据的方法通常包括以下几种: 使用 SQL INSERT 语句:通过编写 SQL INSERT 语句来向数据库中插入新的数据记录。 示例: INSERT INTO table_name (column1, column2, column3, ...) VALUES (valu...

    2024-04-22编程代码
  • 数据库如何批量更新大量数据
    数据库如何批量更新大量数据

    要批量更新大量数据,可以使用数据库中提供的批量更新功能或者使用编程语言中的批处理操作来实现。 在数据库中,可以使用SQL语句的UPDATE语句来批量更新数据。例如,可以编写一个包含多个UPDATE语句的脚本来一次...

    2024-04-18编程代码
  • oracle如何远程连接数据库
    oracle如何远程连接数据库

    要远程连接到Oracle数据库,可以使用以下步骤: 安装Oracle客户端:首先需要在本地计算机上安装Oracle客户端工具,例如SQL*Plus或SQL Developer。 配置网络连接:在Oracle服务器上配置监听器以便允许远程连接...

    2024-04-18编程代码,