為什么要建立數(shù)據(jù)倉庫

數(shù)據(jù)倉庫是為了滿足分析需要，對源數(shù)據(jù)進(jìn)行了Transform過程，具體是怎樣一個處理過程，可以從Bill Inmon的倉庫定義四個特性進(jìn)行理解。）數(shù)據(jù)倉庫系統(tǒng)（用數(shù)據(jù)庫裝東西）與其他基礎(chǔ)業(yè)務(wù)系統(tǒng)（例如財務(wù)系統(tǒng)、銷售系統(tǒng)、人力資源系統(tǒng)等，也是用數(shù)據(jù)庫裝東西）的區(qū)別是： 基礎(chǔ)業(yè)務(wù)系統(tǒng)的特點(diǎn)是各管各的，例如財務(wù)系統(tǒng)生產(chǎn)了白菜，那么用一個數(shù)據(jù)庫來裝，人力資源系統(tǒng)生產(chǎn)了豬肉，再用一個數(shù)據(jù)庫來裝。我要做一道菜，需要分別到各個數(shù)據(jù)庫去取，比較麻煩（現(xiàn)實(shí)的情況是大部分時候讓種菜的農(nóng)民伯伯送過來，但送過來的東西不一定是我想要的，而且不同的時候我想要不同的東西，經(jīng)常會被農(nóng)民伯伯罵，弄得雙方都不開心）。另外一方面，各個數(shù)據(jù)庫中放的是一些比較原始的東西，我要拿過來做菜，還需要經(jīng)過很麻煩的清洗過程，一不小心里面可能就藏著一條大青蟲。那么，數(shù)據(jù)倉庫系統(tǒng)就是建立一個大的超市，將各地農(nóng)民伯伯出產(chǎn)的東西收集過來，清洗干凈，分門別類地放好。這樣，你要哪種菜的時候，直接從超市里面拿就可以了。

公司專注于為企業(yè)提供網(wǎng)站建設(shè)、成都網(wǎng)站建設(shè)、微信公眾號開發(fā)、商城系統(tǒng)網(wǎng)站開發(fā)，微信小程序，軟件按需求定制網(wǎng)站等一站式互聯(lián)網(wǎng)企業(yè)服務(wù)。憑借多年豐富的經(jīng)驗(yàn)，我們會仔細(xì)了解各客戶的需求而做出多方面的分析、設(shè)計、整合，為客戶設(shè)計出具風(fēng)格及創(chuàng)意性的商業(yè)解決方案，創(chuàng)新互聯(lián)更提供一系列網(wǎng)站制作和網(wǎng)站推廣的服務(wù)。

數(shù)據(jù)倉庫的特點(diǎn)是：

(1)數(shù)據(jù)倉庫是面向主題的.

(2)數(shù)據(jù)倉庫是集成的

(3)數(shù)據(jù)倉庫具有時間相關(guān)性.

(4)數(shù)據(jù)倉庫的數(shù)據(jù)是相對穩(wěn)定的.

數(shù)據(jù)倉庫數(shù)據(jù)建模的幾種思路

數(shù)據(jù)倉庫數(shù)據(jù)建模的幾種思路主要分為一下幾種

1. 星型模式

星形模式(Star Schema)是最常用的維度建模方式。星型模式是以事實(shí)表為中心，所有的維度表直接連接在事實(shí)表上，像星星一樣。星形模式的維度建模由一個事實(shí)表和一組維表成，且具有以下特點(diǎn)：a. 維表只和事實(shí)表關(guān)聯(lián)，維表之間沒有關(guān)聯(lián)；b. 每個維表主鍵為單列，且該主鍵放置在事實(shí)表中，作為兩邊連接的外鍵；c. 以事實(shí)表為核心，維表圍繞核心呈星形分布；

2. 雪花模式

雪花模式(Snowflake Schema)是對星形模式的擴(kuò)展。雪花模式的維度表可以擁有其他維度表的，雖然這種模型相比星型更規(guī)范一些，但是由于這種模型不太容易理解，維護(hù)成本比較高，而且性能方面需要關(guān)聯(lián)多層維表，性能也比星型模型要低。所以一般不是很常用

雪花模式

3．星座模式

星座模式是星型模式延伸而來，星型模式是基于一張事實(shí)表的，而星座模式是基于多張事實(shí)表的，而且共享維度信息。前面介紹的兩種維度建模方法都是多維表對應(yīng)單事實(shí)表，但在很多時候維度空間內(nèi)的事實(shí)表不止一個，而一個維表也可能被多個事實(shí)表用到。在業(yè)務(wù)發(fā)展后期，絕大部分維度建模都采用的是星座模式。

星座模型

nosql數(shù)據(jù)庫一般有哪幾種類型？分別用在什么場景

特點(diǎn)：

它們可以處理超大量的數(shù)據(jù)。

它們運(yùn)行在便宜的PC服務(wù)器集群上。

PC集群擴(kuò)充起來非常方便并且成本很低，避免了“sharding”操作的復(fù)雜性和成本。

它們擊碎了性能瓶頸。

NoSQL的支持者稱，通過NoSQL架構(gòu)可以省去將Web或Java應(yīng)用和數(shù)據(jù)轉(zhuǎn)換成SQL友好格式的時間，執(zhí)行速度變得更快。

“SQL并非適用于所有的程序代碼，” 對于那些繁重的重復(fù)操作的數(shù)據(jù)，SQL值得花錢。但是當(dāng)數(shù)據(jù)庫結(jié)構(gòu)非常簡單時，SQL可能沒有太大用處。

沒有過多的操作。

雖然NoSQL的支持者也承認(rèn)關(guān)系數(shù)據(jù)庫提供了無可比擬的功能集合，而且在數(shù)據(jù)完整性上也發(fā)揮絕對穩(wěn)定，他們同時也表示，企業(yè)的具體需求可能沒有那么多。

Bootstrap支持

因?yàn)镹oSQL項(xiàng)目都是開源的，因此它們?nèi)狈?yīng)商提供的正式支持。這一點(diǎn)它們與大多數(shù)開源項(xiàng)目一樣，不得不從社區(qū)中尋求支持。

優(yōu)點(diǎn)：

易擴(kuò)展

NoSQL數(shù)據(jù)庫種類繁多，但是一個共同的特點(diǎn)都是去掉關(guān)系數(shù)據(jù)庫的關(guān)系型特性。數(shù)據(jù)之間無關(guān)系，這樣就非常容易擴(kuò)展。也無形之間，在架構(gòu)的層面上帶來了可擴(kuò)展的能力。

大數(shù)據(jù)量，高性能

NoSQL數(shù)據(jù)庫都具有非常高的讀寫性能，尤其在大數(shù)據(jù)量下，同樣表現(xiàn)優(yōu)秀。這得益于它的無關(guān)系性，數(shù)據(jù)庫的結(jié)構(gòu)簡單。一般MySQL使用 Query Cache，每次表的更新Cache就失效，是一種大粒度的Cache，在針對web2.0的交互頻繁的應(yīng)用，Cache性能不高。而NoSQL的 Cache是記錄級的，是一種細(xì)粒度的Cache，所以NoSQL在這個層面上來說就要性能高很多了。

靈活的數(shù)據(jù)模型

NoSQL無需事先為要存儲的數(shù)據(jù)建立字段，隨時可以存儲自定義的數(shù)據(jù)格式。而在關(guān)系數(shù)據(jù)庫里，增刪字段是一件非常麻煩的事情。如果是非常大數(shù)據(jù)量的表，增加字段簡直就是一個噩夢。這點(diǎn)在大數(shù)據(jù)量的web2.0時代尤其明顯。

高可用

NoSQL在不太影響性能的情況，就可以方便的實(shí)現(xiàn)高可用的架構(gòu)。比如Cassandra，HBase模型，通過復(fù)制模型也能實(shí)現(xiàn)高可用。

主要應(yīng)用：

Apache HBase

這個大數(shù)據(jù)管理平臺建立在谷歌強(qiáng)大的BigTable管理引擎基礎(chǔ)上。作為具有開源、Java編碼、分布式多個優(yōu)勢的數(shù)據(jù)庫，Hbase最初被設(shè)計應(yīng)用于Hadoop平臺，而這一強(qiáng)大的數(shù)據(jù)管理工具，也被Facebook采用，用于管理消息平臺的龐大數(shù)據(jù)。

Apache Storm

用于處理高速、大型數(shù)據(jù)流的分布式實(shí)時計算系統(tǒng)。Storm為Apache Hadoop添加了可靠的實(shí)時數(shù)據(jù)處理功能，同時還增加了低延遲的儀表板、安全警報，改進(jìn)了原有的操作方式，幫助企業(yè)更有效率地捕獲商業(yè)機(jī)會、發(fā)展新業(yè)務(wù)。

Apache Spark

該技術(shù)采用內(nèi)存計算，從多迭代批量處理出發(fā)，允許將數(shù)據(jù)載入內(nèi)存做反復(fù)查詢，此外還融合數(shù)據(jù)倉庫、流處理和圖計算等多種計算范式，Spark用Scala語言實(shí)現(xiàn)，構(gòu)建在HDFS上，能與Hadoop很好的結(jié)合，而且運(yùn)行速度比MapReduce快100倍。

Apache Hadoop

該技術(shù)迅速成為了大數(shù)據(jù)管理標(biāo)準(zhǔn)之一。當(dāng)它被用來管理大型數(shù)據(jù)集時，對于復(fù)雜的分布式應(yīng)用，Hadoop體現(xiàn)出了非常好的性能，平臺的靈活性使它可以運(yùn)行在商用硬件系統(tǒng)，它還可以輕松地集成結(jié)構(gòu)化、半結(jié)構(gòu)化和甚至非結(jié)構(gòu)化數(shù)據(jù)集。

Apache Drill

你有多大的數(shù)據(jù)集？其實(shí)無論你有多大的數(shù)據(jù)集，Drill都能輕松應(yīng)對。通過支持HBase、Cassandra和MongoDB，Drill建立了交互式分析平臺，允許大規(guī)模數(shù)據(jù)吞吐，而且能很快得出結(jié)果。

Apache Sqoop

也許你的數(shù)據(jù)現(xiàn)在還被鎖定于舊系統(tǒng)中，Sqoop可以幫你解決這個問題。這一平臺采用并發(fā)連接，可以將數(shù)據(jù)從關(guān)系數(shù)據(jù)庫系統(tǒng)方便地轉(zhuǎn)移到Hadoop中，可以自定義數(shù)據(jù)類型以及元數(shù)據(jù)傳播的映射。事實(shí)上，你還可以將數(shù)據(jù)（如新的數(shù)據(jù)）導(dǎo)入到HDFS、Hive和Hbase中。

Apache Giraph

這是功能強(qiáng)大的圖形處理平臺，具有很好可擴(kuò)展性和可用性。該技術(shù)已經(jīng)被Facebook采用，Giraph可以運(yùn)行在Hadoop環(huán)境中，可以將它直接部署到現(xiàn)有的Hadoop系統(tǒng)中。通過這種方式，你可以得到強(qiáng)大的分布式作圖能力，同時還能利用上現(xiàn)有的大數(shù)據(jù)處理引擎。

Cloudera Impala

Impala模型也可以部署在你現(xiàn)有的Hadoop群集上，監(jiān)視所有的查詢。該技術(shù)和MapReduce一樣，具有強(qiáng)大的批處理能力，而且Impala對于實(shí)時的SQL查詢也有很好的效果，通過高效的SQL查詢，你可以很快的了解到大數(shù)據(jù)平臺上的數(shù)據(jù)。

Gephi

它可以用來對信息進(jìn)行關(guān)聯(lián)和量化處理，通過為數(shù)據(jù)創(chuàng)建功能強(qiáng)大的可視化效果，你可以從數(shù)據(jù)中得到不一樣的洞察力。Gephi已經(jīng)支持多個圖表類型，而且可以在具有上百萬個節(jié)點(diǎn)的大型網(wǎng)絡(luò)上運(yùn)行。Gephi具有活躍的用戶社區(qū)，Gephi還提供了大量的插件，可以和現(xiàn)有系統(tǒng)完美的集成到一起，它還可以對復(fù)雜的IT連接、分布式系統(tǒng)中各個節(jié)點(diǎn)、數(shù)據(jù)流等信息進(jìn)行可視化分析。

MongoDB

這個堅(jiān)實(shí)的平臺一直被很多組織推崇，它在大數(shù)據(jù)管理上有極好的性能。MongoDB最初是由DoubleClick公司的員工創(chuàng)建，現(xiàn)在該技術(shù)已經(jīng)被廣泛的應(yīng)用于大數(shù)據(jù)管理。MongoDB是一個應(yīng)用開源技術(shù)開發(fā)的NoSQL數(shù)據(jù)庫，可以用于在JSON這樣的平臺上存儲和處理數(shù)據(jù)。目前，紐約時報、Craigslist以及眾多企業(yè)都采用了MongoDB，幫助他們管理大型數(shù)據(jù)集。（Couchbase服務(wù)器也作為一個參考）。

十大頂尖公司：

Amazon Web Services

Forrester將AWS稱為“云霸主”，談到云計算領(lǐng)域的大數(shù)據(jù)，那就不得不提到亞馬遜。該公司的Hadoop產(chǎn)品被稱為EMR（Elastic Map Reduce），AWS解釋這款產(chǎn)品采用了Hadoop技術(shù)來提供大數(shù)據(jù)管理服務(wù)，但它不是純開源Hadoop，經(jīng)過修改后現(xiàn)在被專門用在AWS云上。

Forrester稱EMR有很好的市場前景。很多公司基于EMR為客戶提供服務(wù)，有一些公司將EMR應(yīng)用于數(shù)據(jù)查詢、建模、集成和管理。而且AWS還在創(chuàng)新，F(xiàn)orrester稱未來EMR可以基于工作量的需要自動縮放調(diào)整大小。亞馬遜計劃為其產(chǎn)品和服務(wù)提供更強(qiáng)大的EMR支持，包括它的RedShift數(shù)據(jù)倉庫、新公布的Kenesis實(shí)時處理引擎以及計劃中的NoSQL數(shù)據(jù)庫和商業(yè)智能工具。不過AWS還沒有自己的Hadoop發(fā)行版。

Cloudera

Cloudera有開源Hadoop的發(fā)行版，這個發(fā)行版采用了Apache Hadoop開源項(xiàng)目的很多技術(shù)，不過基于這些技術(shù)的發(fā)行版也有很大的進(jìn)步。Cloudera為它的Hadoop發(fā)行版開發(fā)了很多功能，包括Cloudera管理器，用于管理和監(jiān)控，以及名為Impala的SQL引擎等。Cloudera的Hadoop發(fā)行版基于開源Hadoop，但也不是純開源的產(chǎn)品。當(dāng)Cloudera的客戶需要Hadoop不具備的某些功能時，Cloudera的工程師們就會實(shí)現(xiàn)這些功能，或者找一個擁有這項(xiàng)技術(shù)的合作伙伴。Forrester表示：“Cloudera的創(chuàng)新方法忠于核心Hadoop，但因?yàn)槠淇蓪?shí)現(xiàn)快速創(chuàng)新并積極滿足客戶需求，這一點(diǎn)使它不同于其他那些供應(yīng)商。”目前，Cloudera的平臺已經(jīng)擁有200多個付費(fèi)客戶，一些客戶在Cloudera的技術(shù)支持下已經(jīng)可以跨1000多個節(jié)點(diǎn)實(shí)現(xiàn)對PB級數(shù)據(jù)的有效管理。

Hortonworks

和Cloudera一樣，Hortonworks是一個純粹的Hadoop技術(shù)公司。與Cloudera不同的是，Hortonworks堅(jiān)信開源Hadoop比任何其他供應(yīng)商的Hadoop發(fā)行版都要強(qiáng)大。Hortonworks的目標(biāo)是建立Hadoop生態(tài)圈和Hadoop用戶社區(qū)，推進(jìn)開源項(xiàng)目的發(fā)展。Hortonworks平臺和開源Hadoop聯(lián)系緊密，公司管理人員表示這會給用戶帶來好處，因?yàn)樗梢苑乐贡还?yīng)商套牢（如果Hortonworks的客戶想要離開這個平臺，他們可以輕松轉(zhuǎn)向其他開源平臺）。這并不是說Hortonworks完全依賴開源Hadoop技術(shù)，而是因?yàn)樵摴緦⑵渌虚_發(fā)的成果回報給了開源社區(qū)，比如Ambari，這個工具就是由Hortonworks開發(fā)而成，用來填充集群管理項(xiàng)目漏洞。Hortonworks的方案已經(jīng)得到了Teradata、Microsoft、Red Hat和SAP這些供應(yīng)商的支持。

IBM

當(dāng)企業(yè)考慮一些大的IT項(xiàng)目時，很多人首先會想到IBM。IBM是Hadoop項(xiàng)目的主要參與者之一，F(xiàn)orrester稱IBM已有100多個Hadoop部署，它的很多客戶都有PB級的數(shù)據(jù)。IBM在網(wǎng)格計算、全球數(shù)據(jù)中心和企業(yè)大數(shù)據(jù)項(xiàng)目實(shí)施等眾多領(lǐng)域有著豐富的經(jīng)驗(yàn)。“IBM計劃繼續(xù)整合SPSS分析、高性能計算、BI工具、數(shù)據(jù)管理和建模、應(yīng)對高性能計算的工作負(fù)載管理等眾多技術(shù)。”

Intel

和AWS類似，英特爾不斷改進(jìn)和優(yōu)化Hadoop使其運(yùn)行在自己的硬件上，具體來說，就是讓Hadoop運(yùn)行在其至強(qiáng)芯片上，幫助用戶打破Hadoop系統(tǒng)的一些限制，使軟件和硬件結(jié)合的更好，英特爾的Hadoop發(fā)行版在上述方面做得比較好。Forrester指出英特爾在最近才推出這個產(chǎn)品，所以公司在未來還有很多改進(jìn)的可能，英特爾和微軟都被認(rèn)為是Hadoop市場上的潛力股。

MapR Technologies

MapR的Hadoop發(fā)行版目前為止也許是最好的了，不過很多人可能都沒有聽說過。Forrester對Hadoop用戶的調(diào)查顯示，MapR的評級最高，其發(fā)行版在架構(gòu)和數(shù)據(jù)處理能力上都獲得了最高分。MapR已將一套特殊功能融入其Hadoop發(fā)行版中。例如網(wǎng)絡(luò)文件系統(tǒng)（NFS）、災(zāi)難恢復(fù)以及高可用性功能。Forrester說MapR在Hadoop市場上沒有Cloudera和Hortonworks那樣的知名度，MapR要成為一個真正的大企業(yè)，還需要加強(qiáng)伙伴關(guān)系和市場營銷。

Microsoft

微軟在開源軟件問題上一直很低調(diào)，但在大數(shù)據(jù)形勢下，它不得不考慮讓W(xué)indows也兼容Hadoop，它還積極投入到開源項(xiàng)目中，以更廣泛地推動Hadoop生態(tài)圈的發(fā)展。我們可以在微軟的公共云Windows Azure HDInsight產(chǎn)品中看到其成果。微軟的Hadoop服務(wù)基于Hortonworks的發(fā)行版，而且是為Azure量身定制的。

微軟也有一些其他的項(xiàng)目，包括名為Polybase的項(xiàng)目，讓Hadoop查詢實(shí)現(xiàn)了SQLServer查詢的一些功能。Forrester說：“微軟在數(shù)據(jù)庫、數(shù)據(jù)倉庫、云、OLAP、BI、電子表格（包括PowerPivot）、協(xié)作和開發(fā)工具市場上有很大優(yōu)勢，而且微軟擁有龐大的用戶群，但要在Hadoop這個領(lǐng)域成為行業(yè)領(lǐng)導(dǎo)者還有很遠(yuǎn)的路要走。”

Pivotal Software

EMC和Vmware部分大數(shù)據(jù)業(yè)務(wù)分拆組合產(chǎn)生了Pivotal。Pivotal一直努力構(gòu)建一個性能優(yōu)越的Hadoop發(fā)行版，為此，Pivotal在開源Hadoop的基礎(chǔ)上又添加了一些新的工具，包括一個名為HAWQ的SQL引擎以及一個專門解決大數(shù)據(jù)問題的Hadoop應(yīng)用。Forrester稱Pivotal Hadoop平臺的優(yōu)勢在于它整合了Pivotal、EMC、Vmware的眾多技術(shù)，Pivotal的真正優(yōu)勢實(shí)際上等于EMC和Vmware兩大公司為其撐腰。到目前為止，Pivotal的用戶還不到100個，而且大多是中小型客戶。

Teradata

對于Teradata來說，Hadoop既是一種威脅也是一種機(jī)遇。數(shù)據(jù)管理，特別是關(guān)于SQL和關(guān)系數(shù)據(jù)庫這一領(lǐng)域是Teradata的專長。所以像Hadoop這樣的NoSQL平臺崛起可能會威脅到Teradata。相反，Teradata接受了Hadoop，通過與Hortonworks合作，Teradata在Hadoop平臺集成了SQL技術(shù)，這使Teradata的客戶可以在Hadoop平臺上方便地使用存儲在Teradata數(shù)據(jù)倉庫中的數(shù)據(jù)。

AMPLab

通過將數(shù)據(jù)轉(zhuǎn)變?yōu)樾畔ⅲ覀儾趴梢岳斫馐澜纾@也正是AMPLab所做的。AMPLab致力于機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘、數(shù)據(jù)庫、信息檢索、自然語言處理和語音識別等多個領(lǐng)域，努力改進(jìn)對信息包括不透明數(shù)據(jù)集內(nèi)信息的甄別技術(shù)。除了Spark，開源分布式SQL查詢引擎Shark也源于AMPLab，Shark具有極高的查詢效率，具有良好的兼容性和可擴(kuò)展性。近幾年的發(fā)展使計算機(jī)科學(xué)進(jìn)入到全新的時代，而AMPLab為我們設(shè)想一個運(yùn)用大數(shù)據(jù)、云計算、通信等各種資源和技術(shù)靈活解決難題的方案，以應(yīng)對越來越復(fù)雜的各種難題。

企業(yè)如何更好的搭建數(shù)據(jù)倉庫？

0 引 言

隨著計算機(jī)應(yīng)用的深入，大量數(shù)據(jù)存儲在計算機(jī)中，信息的存儲、管理、使用和維護(hù)顯得越來越重要，而傳統(tǒng)的數(shù)據(jù)庫管理系統(tǒng)很難滿足其要求。為了解決大數(shù)據(jù)量、異構(gòu)數(shù)據(jù)集成以及訪問數(shù)據(jù)的響應(yīng)速度問題，采用數(shù)據(jù)倉庫技術(shù)，為最終用戶處理所需的決策信息提供有效方法。

1 數(shù)據(jù)倉庫

數(shù)據(jù)倉庫是為管理人員進(jìn)行決策提供支持的一種面向主題的、集成的、非易失的并隨時間而變化的數(shù)據(jù)集合。數(shù)據(jù)倉庫是一種作為決策支持系統(tǒng)和聯(lián)機(jī)分析應(yīng)用數(shù)據(jù)源的結(jié)構(gòu)化數(shù)據(jù)環(huán)境。

從目前數(shù)據(jù)倉庫的發(fā)展來講，數(shù)據(jù)可以存放于不同類型的數(shù)據(jù)庫中，數(shù)據(jù)倉庫是將異種數(shù)據(jù)源在單個站點(diǎn)以統(tǒng)一的模型組織的存儲，以支持管理決策。數(shù)據(jù)倉庫技術(shù)包括數(shù)據(jù)清理、數(shù)據(jù)集成、聯(lián)機(jī)分析處理（OLAP）和數(shù)據(jù)挖掘（DM）。OLAP是多維查詢和分析工具，支持決策者圍繞決策主題對數(shù)據(jù)進(jìn)行多角度、多層次的分析。OLAP側(cè)重于交互性、快速的響應(yīng)速度及提供數(shù)據(jù)的多維視圖，而DM則注重自動發(fā)現(xiàn)隱藏在數(shù)據(jù)中的模式和有用信息。OLAP的分析結(jié)果可以給DM提供分析信息，作為挖掘的依據(jù)；DM可以拓展OLAP分析的深度，可以發(fā)現(xiàn)OLAP所不能發(fā)現(xiàn)的更為復(fù)雜、細(xì)致的信息。OLAP是聯(lián)機(jī)分析處理，DM是通過對數(shù)據(jù)庫、數(shù)據(jù)倉庫中的數(shù)據(jù)進(jìn)行分析而獲得知識的方法和技術(shù)，即通過建立模型來發(fā)現(xiàn)隱藏在組織機(jī)構(gòu)數(shù)據(jù)庫中的模式和關(guān)系。這兩者結(jié)合起來可滿足企業(yè)對數(shù)據(jù)整理和信息提取的要求，幫助企業(yè)高層做出決策。在歐美發(fā)達(dá)國家，以數(shù)據(jù)倉庫為基礎(chǔ)的在線分析處理和數(shù)據(jù)挖掘應(yīng)用，首先在金融、保險、證券、電信等傳統(tǒng)數(shù)據(jù)密集型行業(yè)取得成功。IBM、oracle、Teradata、Microsoft、Netezza和SAS等有實(shí)力的公司相繼推出了數(shù)據(jù)倉庫解決方案。

近幾年開始流行“分布式數(shù)據(jù)倉庫”，是在多個物理位置應(yīng)用全局邏輯模型。數(shù)據(jù)被邏輯地分成多個域，但不同位置不會有重復(fù)的數(shù)據(jù)。這種分布式方法可以為不同的物理數(shù)據(jù)創(chuàng)建安全區(qū)域，或?yàn)槿虿煌瑫r區(qū)的用戶提供全天候的服務(wù)。此外，有由Kognitio發(fā)起數(shù)據(jù)倉庫托管服務(wù)，即DBMS廠商為客戶開發(fā)和運(yùn)行數(shù)據(jù)倉庫。這種最初出現(xiàn)在業(yè)務(wù)部門，業(yè)務(wù)部門購買托管服務(wù)，而不是使用企業(yè)內(nèi)IT部門提供的數(shù)據(jù)倉庫。

2 數(shù)據(jù)挖掘技術(shù)

數(shù)據(jù)挖掘（DataMining），又稱數(shù)據(jù)庫中的知識發(fā)現(xiàn)（KnoWledge Discoveryin Database，KDD），是指從大型數(shù)據(jù)庫或數(shù)據(jù)倉庫中提取隱含的、未知的、非平凡的及有潛在應(yīng)用價值并最終可為用戶理解的模式過程。它是數(shù)據(jù)庫研究中的很有應(yīng)用價值的新領(lǐng)域，是人工智能、機(jī)器學(xué)習(xí)、數(shù)理統(tǒng)計學(xué)和神經(jīng)元網(wǎng)絡(luò)等技術(shù)在特定的數(shù)據(jù)倉庫領(lǐng)域中的應(yīng)用。數(shù)據(jù)挖掘的核心模塊技術(shù)歷經(jīng)數(shù)十年的發(fā)展，其中包括數(shù)理統(tǒng)計、人工智能、機(jī)器學(xué)習(xí)。從技術(shù)角度看，數(shù)據(jù)挖掘是從大量的、不完全的、有噪聲的、模糊的、隨機(jī)的實(shí)際數(shù)據(jù)中，提取隱含在其中的、人們所不知道的、但又是潛在有用的信息和知識的過程。從商業(yè)應(yīng)用角度看，數(shù)據(jù)挖掘是嶄新的商業(yè)信息處理技術(shù)，其主要特點(diǎn)是對商業(yè)數(shù)據(jù)庫中的大量業(yè)務(wù)數(shù)據(jù)進(jìn)行抽取、轉(zhuǎn)化、分析和模式化處理，從中提取輔助商業(yè)決策的關(guān)鍵知識。

從技術(shù)角度講，數(shù)據(jù)挖掘可應(yīng)用于以下方面：

（1）關(guān)聯(lián)規(guī)則發(fā)現(xiàn)是在給定的事物集合中發(fā)現(xiàn)滿足一定條件的關(guān)聯(lián)規(guī)則，簡單來講，就是挖掘出隱藏在數(shù)據(jù)間的相互關(guān)系，為業(yè)務(wù)主題提供指導(dǎo)。

（2）序列模式分析和關(guān)聯(lián)規(guī)則發(fā)現(xiàn)相似，但其側(cè)重點(diǎn)在于分析數(shù)據(jù)間的前后關(guān)系。模式是按時間有序的。序列模式發(fā)現(xiàn)是在與時間有關(guān)的事物數(shù)據(jù)庫中發(fā)現(xiàn)滿足用戶給定的最小支持度域值的所有有序序列。

（3）分類分析與聚類分析，分類規(guī)則的挖掘?qū)嶋H上是根據(jù)分類模型從數(shù)據(jù)對象中發(fā)現(xiàn)共性，并把它們分成不同的類的過程。聚類時間是將d維空間的n個數(shù)據(jù)對象，劃分到k個類中，使得一個類內(nèi)的數(shù)據(jù)對象間的相似度高于其他類中數(shù)據(jù)對象。聚類分析可以發(fā)現(xiàn)沒有類別標(biāo)記的一組數(shù)據(jù)對象的特性，總結(jié)出一個類別的特征。

（4）自動趨勢預(yù)測，數(shù)據(jù)挖掘能自動在大型數(shù)據(jù)庫里面尋找潛在的預(yù)測信息。一個典型的利用數(shù)據(jù)挖掘進(jìn)行預(yù)測的例子就是目標(biāo)營銷。數(shù)據(jù)挖掘工具可以根據(jù)過去郵件推銷中的大量數(shù)據(jù)找出其中最有可能對將來的郵件推銷作出反應(yīng)的客戶。

3 聯(lián)機(jī)分析（OLAP）處理技術(shù)

聯(lián)機(jī)分析（OLAP）是數(shù)據(jù)倉庫實(shí)現(xiàn)為決策提供支持的重要工具，是共享多維信息，針對特定問題的聯(lián)機(jī)數(shù)據(jù)訪問和分析的快速軟件技術(shù)。是使分析人員、管理人員或執(zhí)行人員能夠從多種角度對從原始數(shù)據(jù)中轉(zhuǎn)化出來，能夠真正為用戶所理解，并真實(shí)反映企業(yè)維特性的信息進(jìn)行快速、一致、交互地存取，從而獲得對數(shù)據(jù)的更深入了解的一類軟件技術(shù)（OLAP委員會的定義）。OLAP的特性包括：①快速性：系統(tǒng)應(yīng)能在5s內(nèi)對用戶的大部分分析要求做出反應(yīng)；②可分析性：能處理與應(yīng)用有關(guān)的任何邏輯分析和統(tǒng)計分析；⑨多維性：多維性是OLAP的關(guān)鍵屬性。系統(tǒng)必須提供對數(shù)據(jù)的多維視圖和分析，包括對層次維和多重層次維的完全支持；④信息性：系統(tǒng)應(yīng)能及時獲得信息，并能管理大容量信息。

OLAP的數(shù)據(jù)結(jié)構(gòu)是多維，目前存在方式：①超立方結(jié)構(gòu)（Hypercube），指用三維或更多的維數(shù)來描述一個對象，每個維彼此垂直。數(shù)據(jù)的測量值發(fā)生在維的交叉點(diǎn)上，數(shù)據(jù)空間的各部分都有相同的維屬性（收縮超立方結(jié)構(gòu)。這種結(jié)構(gòu)的數(shù)據(jù)密度更大，數(shù)據(jù)的維數(shù)更少，并可加入額外的分析維）；②多立方結(jié)構(gòu)（Multicube），即將超立方結(jié)構(gòu)變?yōu)樽恿⒎浇Y(jié)構(gòu)。面向某特定應(yīng)用對維分割，它具有強(qiáng)靈活性，提高了數(shù)據(jù)（特別是稀疏數(shù)據(jù)）的分析效率。分析方法包括：切片、切塊、旋轉(zhuǎn)、鉆取等。

OLAP也被稱為共享的多維數(shù)據(jù)的快速分析FASMI，應(yīng)用在數(shù)據(jù)密集型行業(yè)，如市場和銷售分析、電子商務(wù)的分析、基于歷史數(shù)據(jù)的營銷、預(yù)算、財務(wù)報告與整合、管理報告、利益率、質(zhì)量分析等。

4 小 結(jié)

采用數(shù)據(jù)倉庫的數(shù)據(jù)挖掘及聯(lián)機(jī)分析技術(shù)實(shí)現(xiàn)的決策支持系統(tǒng)，是彌補(bǔ)傳統(tǒng)輔助決策系統(tǒng)能力不足的有效途徑，具有重要的現(xiàn)實(shí)意義。

請問數(shù)據(jù)倉庫都用什么建立？

1、首先你得搞清楚建設(shè)數(shù)倉的目的是什么

是偏向于整合各系統(tǒng)數(shù)據(jù)，為數(shù)據(jù)分析決策服務(wù)，還是偏向于快速的完成分析決策需求？

如果是前者，那么在數(shù)據(jù)倉庫建模的時候一般會選擇ER建模方法；

如果是后者，一般會選擇維度建模方法。

ER建模：即實(shí)體關(guān)系建模，由數(shù)據(jù)倉庫之父BIll Inmon提出，核心思想是從全企業(yè)的高度去設(shè)計三范式模型，用實(shí)體關(guān)系描述企業(yè)服務(wù)。主張的是自上而下的架構(gòu)，將不同的OLTP數(shù)據(jù)集中到面向主題的數(shù)據(jù)倉庫中。

維度建模：由Kimball提出，核心思想是從分析決策的需求出發(fā)構(gòu)建模型。這種模型由事實(shí)表和維表組成，即星型模型和雪花模型。Kimball倡導(dǎo)自下而上的架構(gòu)，可以針對獨(dú)立部門建立數(shù)據(jù)集市，再遞增的構(gòu)建，匯總成數(shù)據(jù)倉庫。

2、其次你得進(jìn)行深入的業(yè)務(wù)調(diào)研和數(shù)據(jù)調(diào)研

業(yè)務(wù)調(diào)研：深入的業(yè)務(wù)調(diào)研能使你更加明確數(shù)倉建設(shè)的目的；同時也利于后續(xù)的建模設(shè)計，隨著調(diào)研的開展，如何將實(shí)體業(yè)務(wù)抽象為數(shù)倉模型會更加明朗。

數(shù)據(jù)調(diào)研：各部門或各科室的數(shù)據(jù)現(xiàn)狀了解，包括數(shù)據(jù)分類、數(shù)據(jù)存儲方式、數(shù)據(jù)量、具體的數(shù)據(jù)內(nèi)容等等。這對后續(xù)的主數(shù)據(jù)串聯(lián)或者維度一致性處理等等都是必須的基礎(chǔ)。

3、然后是數(shù)據(jù)倉庫工具選型

傳統(tǒng)型數(shù)據(jù)倉庫：一般會選擇第三方廠家的數(shù)據(jù)庫和配套ETL工具。因?yàn)橛械谌街С郑鄬τ斜Ｕ希坏秉c(diǎn)也很明顯，受約束以及成本較高。

NoSQL型數(shù)據(jù)倉庫：一般是基于hadoop生態(tài)的數(shù)據(jù)倉庫。hadoop生態(tài)已經(jīng)非常強(qiáng)大，可以找到各種開源組件去支持?jǐn)?shù)據(jù)倉庫。缺點(diǎn)是需要招聘專門人士去摸索，并且相對會存在一些未知隱患。

4、最后是設(shè)計與實(shí)施

設(shè)計：包括數(shù)據(jù)架構(gòu)中的數(shù)據(jù)層次劃分以及具體的模型設(shè)計；也包括程序架構(gòu)中的數(shù)據(jù)質(zhì)量管理、元數(shù)據(jù)管理、調(diào)度管理等；

實(shí)施：規(guī)范化的項(xiàng)目管理實(shí)施，但同時也需記住一點(diǎn)，數(shù)據(jù)倉庫不是一個項(xiàng)目，它是一個過程。

文章題目：nosql建立數(shù)據(jù)倉庫,nosql數(shù)據(jù)庫技術(shù)
本文地址：http://www.chinadenli.net/article0/dssdooo.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供手機(jī)網(wǎng)站建設(shè)、Google、微信小程序、云服務(wù)器、關(guān)鍵詞優(yōu)化、面包屑導(dǎo)航

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)