当用计算机来处理数据的时候, 数据就需要存储和管理了。早期的数据, 就是用一个文件来实现的, 即是文件系统。随着处理的数据量增大, 发展到用数据库来管理和存储数据了。
数据库包括多媒体数据库、对象关系数据库和关系数据库。关系数据库管理系统,已经成为了事实上通用的数据库系统, 因为它以关系表格式存储数据,并以简单明了的SQL标准的格式对数据进行存取。
随着数据量的增多,人们开始寻找各种数据之间的关系, 研究面向某一主题的数据, 于是数据仓库问世了。数据仓库是历史的、主题的、集成的大量数据, 以多维的角度分层次分析数据之间的关系, 提供数据挖掘功能, 寻找数据间的知识, 为决策支持提供服务。
因此,数据库和数据仓库都是与数据相关的。
一、数据库与数据仓库的概念
1、数据库
(1)概念
数据库(Database)是按照数据结构来组织、存储和管理数据的仓库。数据库有很多类型,从最简单的存储有各种数据的表格到能够进行海量数据存储的大型数据库系统都在各个方面得到了广泛的应用。
(2)数据库的特点
实现数据共享:数据共享包含所有用户可同时存取数据库中的数据,也包括用户可以用各种方式通过接口使用数据库,并提供数据共享。
减少数据的冗余度:同文件系统相比,由于数据库实现了数据共享,从而避免了用户各自建立应用文件。减少了大量重复数据,减少了数据冗余,维护了数据的一致性。
数据的独立性:数据的独立性包括逻辑独立性和物理独立性。
数据的集中控制:文件管理方式中,数据处于一种分散状态,不同用户或同一用户在不同处理中其文件之间毫无关系。利用数据库可对数据进行集中控制和管理,并通过数据模型表示各种数据的组织以及数据间的联系。
数据的一致性和可维护性:①安全性控制:以防数据丢失、错误更新和越权使用;②完整性控制:保证数据的正确性、有效性和相容性;③并发控制:在同一时间周期内,允许对数据实现多路存取,能防止用户之间的不正常交互作用。
故障恢复:由数据库管理系统提供一套丰富,可及时发现故障和修复故障,从而防止数据被破坏。
2、数据仓库
(1)概念
数据仓库,是一个很大的数据存储集合,出于企业的分析性报告和决策支持目的而创建,对多样的业务数据进行筛选与整合。
(2)数据仓库的特点
主题性:传统数据库中,最大的特点是面向应用进行数据的组织,各个业务系统可能是相互分离的。而数据仓库则是面向主题的。主题是一个抽象的概念,是较高层次上企业信息系统中的数据综合、归类并进行分析利用的抽象。在逻辑意义上,它是对应企业中某一宏观分析领域所涉及的分析对象。
操作型处理(传统数据)对数据的划分并不适用于决策分析。而基于主题组织的数据则不同,它们被划分为各自独立的领域,每个领域有各自的逻辑内涵但互不交叉,在抽象层次上对数据进行完整、一致和准确的描述。一些主题相关的数据通常分布在多个操作型系统中。
集成性:通过对分散、独立、异构的数据库数据进行抽取、清理、转换和汇总便得到了数据仓库的数据,这样保证了数据仓库内的数据关于整个企业的一致性。
数仓不是生成数据的平台,其数据来自于各个不同的数据源,当我们确定主题之后,就需要把和主题相关的数据从各个数据源集成过来。因为同一个主题的数据可能来自不同的数据源,它们之间会存在着差异(异构数据)。因此在数据进入数据仓库之前,必然要经过统一与综合,这一步是数据仓库建设中最关键、最复杂的一步,所要完成的工作有:
要统一源数据中所有矛盾之处,如字段的同名异义、异名同义、单位不统一、字长不一致,等等;进行数据综合和计算。数据仓库中的数据综合工作可以在从原有数据库抽取数据时生成,但许多是在数据仓库内部生成的,即进入数据仓库以后进行综合生成的。
稳定性:数据仓库中保存的数据是一系列历史快照,不允许被修改。
时变性:数据仓库包含各种粒度的历史数据。数据仓库中的数据可能与某个特定日期、星期、月份、季度或者年份有关。数据仓库的目的是通过分析企业过去一段时间业务的经营状况,挖掘其中隐藏的模式。虽然数据仓库的用户不能修改数据,但并不是说数据仓库的数据是永远不变的。分析的结果只能反映过去的情况,当业务变化后,挖掘出的模式会失去时效性。因此数据仓库的数据需要更新,以适应决策的需要。从这个角度讲,数据仓库建设是一个项目,更是一个过程。
二、数据库与数据仓库的区别
数据库与数据仓库的区别实际讲的是OLTP与OLAP的区别。
操作型处理,叫联机事务处理OLTP(On-Line Transaction Processing,),也可以称面向交易的处理系统,它是针对具体业务在数据库联机的日常操作,通常对少数记录进行查询、修改。用户较为关心操作的响应时间、数据的安全性、完整性和并发支持的用户数等问题。传统的数据库系统作为数据管理的主要手段,主要用于操作型处理。
分析型处理,叫联机分析处理OLAP(On-Line Analytical Processing)一般针对某些主题的历史数据进行分析,支持管理决策。
首先要明白,数据仓库的出现,并不是要取代数据库。
企业中一般先有数据库,然后有数据仓库,可以没有数据仓库,但是不能没有数据库。数据仓库不是大型的数据库,只是一个数据分析的平台。
数据仓库,是在数据库已经大量存在的情况下,为了进一步挖掘数据资源、为了决策需要而产生的,它绝不是所谓的“大型数据库”。
具体而言,数据库与数据仓库的区别有以下几点:
1、数据库是面向事务的设计,数据仓库是面向主题设计的。
2、数据库一般存储业务数据,数据仓库存储的一般是历史数据。
3、数据库设计是尽量避免冗余,一般针对某一业务应用进行设计。数据仓库在设计时有意引入冗余,依照分析需求,分析维度、分析指标进行设计。
4、数据库是为捕获数据而设计,数据仓库是为分析数据而设计。
三、数据库与数据仓库的应用
下面小亿以亿信华辰为江苏金租建设的一体化数据分析管理平台为例,具体讲讲数据仓库的应用。
点这里,免费申请数据治理产品~
1、项目背景
金融统计历来是监管机构非常重视的一项基本工作,每年都会对金融统计制度进行修订,不断细化和完善统计要求,在此背景下,公司也在不断的开展各类业务数据规范、完善业务基础数据采集的工作。但由于缺乏统一化的数据平台,使得各类监管报表的生成质量无法得到有效保证。
另外,随着业务的快速发展,中小企业业务逐步增多,公司对精细化管理提出更高要求,内外部数据的使用、统计、分析工作成为日常办公的基本需要,信息中心在数据服务方面的提升迫在眉睫,同时各部门也对数据服务的提供方式、提供的时效性、使用的灵活性提出了较高要求。目前江苏金租公司主要面临以下几个问题:
(1)数据信息孤岛问题
随着公司的日渐发展及业务的逐步扩大,江苏金租公司的业务系统也逐步增多。目前主要的就有大单、零售、助融、财务、资金、OA、HR七大系统数据,各系统之间的数据缺乏关联性,数据无法统一标准,容易形成“蛛网结构”,出现重复开发,浪费IT资源和成本的问题。
(2)缺乏精细化的管理
江苏金租目前在数据展示方面缺乏成熟的平台,公司管理层和业务部门人员无法及时获知公司和部门经营管理情况,动态调整公司和部门重点工作,更好的指导团队完成各项经营指标,从而做不到精细化的管理。
(3)数据的多维分析能力不足
江苏金租各部门及业务人员数据分析大多依赖于系统自身或者用户手动处理数据,但是由于业务系统缺乏历史数据并且各个系统比较分散,无法做到多维度地分析数据。
(4)信息安全管控问题
公司各部门及业务人员在进行数据分析是主要依赖于业务系统,但是这样操作权限控制不足,业务人员经常能够查看到一些其他部门或业务人员的数据,而且针对于一些对外报表,其中的一些敏感信息例如人员姓名、证件号码等关键信息无法进行脱敏处理,容易导致公司核心数据泄露问题。
2、项目建设情况
综合考量内外部需求,江苏金租启动数据平台建设项目,本阶段以搭建数据平台完成各类数据落地、满足各类指标数据展现要求、实现管理驾驶舱展示为主要目标,强调数据平台搭建的科学性、前瞻性,数据来源的准确性和统一性。
江苏金租数据平台系统目前开发完成的主要是管理驾驶舱、经营分析、监管报送、数据采集四大模块。系统业务功能架构见下图:
(1)管理驾驶舱
可根据人员权限灵活展示相应的内容,一共开发了4张PC端、4张手机端报表。主要从投放、资产、人员、渠道等多个方面展示公司的整体情况,同时支持穿透,可以查看某个指标的明细情况;
(2)经营分析
主要用于业务人员在日常工作中的分析报表,以及对外披露报表的展示。例如厂融经销商风险金明细表等157张经营分析报表和厂融经销商风险金收支明细表(对外)等23张对外报表;
(3)监管报送
主要用于满足公司监管报送的需求,目前开发完成的有G1101、G04等66张银保监会报送报表,以及存量单位贷款等10张人民银行基础数据报送报表;
(4)数据采集
主要用于用户补录一些目前在业务系统缺失但是对于经营分析或者监管报送又不可或缺的数据。比如内部行业分类补录、G22日报补录等17张补录报表。
3、价值体现
截止目前,项目在数据库方面一共交付55张ODS层库表、38张DW层库表以及72张维表;数据平台前端交付5张领导驾驶舱、157张经营分析报表、10张数据补录表。自数据平台上线以来用户数已超过400余人,有效地支持公司各大部门的日常工作。为企业带来价值体现如下
(1)提升科技治理水平
数据平台集成了公司大单业务系统、零售业务系统、助融业务系统、财务系统、资金系统、OA系统、HR系统七大系统数据,解决了数据信息孤岛,有利于风险监控和日常管理。
数据平台通过主题模型,将不同系统的同类数据进行抽取、清洗、加工和转换,实现不同系统间同类报表查询、监管报送等工作统一处理,保证数据统一标准,防止形成“蛛网结构”,减少重复开发,节约IT资源和开发成本。
(2)保障公司精细化管理
管理驾驶舱以及穿透页能让公司管理层和业务部门人员及时获知公司和部门经营管理情况,动态调整公司和部门重点工作,更好的指导团队完成各项经营指标。
(3)满足公司多维数据分析需求
通过对历史数据进行详细记录处理,建立多维维度表和指标体系,满足了公司各部门多维度指标分析的需要。
(4)加强信息安全管控
数据平台在门户的开发上实现了一个部门一个门户,并且通过组织架构精确控制查询权限,人员权限可精准控制到具体报表的相关字段,从技术上杜绝了人员能够查询与自己无关的数据信息,并对人员姓名、证件号码等关键信息进行了脱敏处理,防止公司核心信息数据泄露。
随着互联网的快速发展, 互联网+的大规划应用, 工程数据量以几何级数增长, 如何处理这些大量的结构化和非结构化的数据, 显得越来越重要。数据库和数据仓库是互补的, 谁也替代不了谁, 他们将会协同发展, 相互协作为企业服务。
数据库存储的是事务型的日常处理的数据, 解决工程施工、设计、咨询等各方面的需要。数据仓库是面向主题的分析, 为人们提供决策支持需要。两者不一定非要区分本质区别,应用得好才是最主要的。