大數(shù)據(jù)產(chǎn)業(yè)鏈構(gòu)成解析

大數(shù)據(jù)的產(chǎn)業(yè)鏈構(gòu)成分析如下圖所示，大致可分為數(shù)據(jù)標(biāo)準(zhǔn)與規(guī)范、數(shù)據(jù)安全、數(shù)據(jù)采集、數(shù)據(jù)存儲(chǔ)與管理、數(shù)據(jù)分析與挖掘、數(shù)據(jù)運(yùn)維及數(shù)據(jù)應(yīng)用幾個(gè)環(huán)節(jié)，覆蓋了數(shù)據(jù)從產(chǎn)生到應(yīng)用的整個(gè)生命周期。

（一）數(shù)據(jù)標(biāo)準(zhǔn)與規(guī)范

大數(shù)據(jù)標(biāo)準(zhǔn)體系是開展大數(shù)據(jù)應(yīng)用的前提條件，沒有統(tǒng)一的標(biāo)準(zhǔn)體系，數(shù)據(jù)共享、分析、挖掘、決策支持將無從談起。大數(shù)據(jù)標(biāo)準(zhǔn)包括體系結(jié)構(gòu)標(biāo)準(zhǔn)、數(shù)據(jù)格式與表示標(biāo)準(zhǔn)、組織管理標(biāo)準(zhǔn)、安全標(biāo)準(zhǔn)和評(píng)測(cè)標(biāo)準(zhǔn)。在標(biāo)準(zhǔn)化建設(shè)方面，參與單位主要包括中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院、各個(gè)數(shù)據(jù)庫公司、數(shù)據(jù)擁有部門以及各個(gè)行業(yè)的標(biāo)準(zhǔn)化組織。

（二）數(shù)據(jù)安全

　　隨著海量數(shù)據(jù)的不斷增加，對(duì)數(shù)據(jù)存儲(chǔ)和訪問的安全性要求越來越高，從而對(duì)數(shù)據(jù)的訪問控制技術(shù)、加密保護(hù)技術(shù)以及多副本與容災(zāi)機(jī)制等提出了更高的要求。

　　另外，由于大數(shù)據(jù)處理主要采用分布式計(jì)算方法，這必然面臨著數(shù)據(jù)傳輸、信息交互等環(huán)節(jié)，如何在這些環(huán)節(jié)中保護(hù)數(shù)據(jù)價(jià)值不泄露、信息不丟失，保護(hù)所有站點(diǎn)的安全是大數(shù)據(jù)發(fā)展面對(duì)的重大挑戰(zhàn)。

　　在大數(shù)據(jù)時(shí)代，傳統(tǒng)的隱私數(shù)據(jù)內(nèi)涵與外延有了巨大突破和延伸，數(shù)據(jù)的多元化與彼此的關(guān)聯(lián)性進(jìn)一步發(fā)展，使得對(duì)單一數(shù)據(jù)的隱私保護(hù)方法變得極其脆弱，需要針對(duì)多元數(shù)據(jù)融合的安全提出。

　　在數(shù)據(jù)安全環(huán)節(jié)上主要參與單位包括中國(guó)電子科技集團(tuán)公司第30研究所以及奇虎 360、瑞星等殺毒軟件公司。

（三）數(shù)據(jù)采集

　　政府部門、以 BAT 為代表的互聯(lián)網(wǎng)企業(yè)、運(yùn)營(yíng)商是當(dāng)前大數(shù)據(jù)的主要擁有者。除此之外，利用網(wǎng)絡(luò)爬蟲或網(wǎng)站公開 API 等途徑對(duì)網(wǎng)絡(luò)數(shù)據(jù)進(jìn)行采集也是大數(shù)據(jù)的主要來源。

　　現(xiàn)實(shí)世界中的數(shù)據(jù)大多不完整或不一致，無法直接進(jìn)行數(shù)據(jù)挖掘或挖掘結(jié)果不理想，需要對(duì)采集的數(shù)據(jù)進(jìn)行填補(bǔ)、平滑、合并、規(guī)格化、檢查一致性等數(shù)據(jù)預(yù)處理操作，并且往往需要大量的人工參與，因此數(shù)據(jù)采集和清洗成為大數(shù)據(jù)產(chǎn)業(yè)鏈的一個(gè)重要環(huán)節(jié)。

（四）數(shù)據(jù)存儲(chǔ)與管理

　　大數(shù)據(jù)存儲(chǔ)與管理的主要參與者以傳統(tǒng)數(shù)據(jù)庫企業(yè)為主，國(guó)際上主要有 IBM、Oracle、Intel、Green-plum、infor Matri Cloudera 等；國(guó)內(nèi)主要有中興、華為、用友、浪潮、托爾思、數(shù)據(jù)堂、九次方、億贊普、達(dá)夢(mèng)等。各家企業(yè)針對(duì)大數(shù)據(jù)應(yīng)用開展各具特色的數(shù)據(jù)庫架構(gòu)和數(shù)據(jù)組織管理研究，形成針對(duì)具體領(lǐng)域的產(chǎn)品。

（五）數(shù)據(jù)分析與挖掘

　　大數(shù)據(jù)分析與挖掘的意圖主要集中在兩方面：

　　 一是從大量的機(jī)構(gòu)結(jié)構(gòu)化和半結(jié)構(gòu)化數(shù)據(jù)中分析出計(jì)算機(jī)可以理解的語義信息或知識(shí)；

　　 二是對(duì)隱性的知識(shí)，如關(guān)聯(lián)情況、意圖等進(jìn)行挖掘。常用的方法包括分類、聚類、關(guān)聯(lián)規(guī)則挖掘、序列模式挖掘、時(shí)間序列分析預(yù)測(cè)等。

　　數(shù)據(jù)分析與挖掘的核心算法與軟件主要掌握在大型數(shù)據(jù)庫公司及高校的手里，國(guó)際上主要參與者包括 IBM、甲骨文、微軟、谷歌、亞馬遜、Facebook 等，國(guó)內(nèi)主要參與單位包括數(shù)據(jù)庫企業(yè)、高校、以 BAT 為代表的大型互聯(lián)網(wǎng)企業(yè)等。數(shù)據(jù)分析與挖掘的能力直接決定了大數(shù)據(jù)的應(yīng)用推廣程度和范圍，是大數(shù)據(jù)產(chǎn)業(yè)的核心。

（六）數(shù)據(jù)運(yùn)維

　　由于數(shù)據(jù)的重要性得到普遍認(rèn)可，除政府部門不具備數(shù)據(jù)運(yùn)維服務(wù)條件外，數(shù)據(jù)的采集者通常就是數(shù)據(jù)運(yùn)維者。各地政府方面則通常利用大數(shù)據(jù)平臺(tái)建設(shè)來推動(dòng)政府大數(shù)據(jù)的公開與共享，如云上貴州，吸引個(gè)人和企業(yè)用戶開展創(chuàng)新與創(chuàng)業(yè)，積極推動(dòng)大數(shù)據(jù)的增值服務(wù)。

（七）數(shù)據(jù)應(yīng)用

　　大數(shù)據(jù)對(duì)傳統(tǒng)信息技術(shù)帶來革命性挑戰(zhàn)，正在重構(gòu)信息技術(shù)體系和產(chǎn)業(yè)格局。國(guó)內(nèi)以阿里巴巴、百度、騰訊、人大金倉、浪潮、曙光、南大通用為代表的互聯(lián)網(wǎng)企業(yè)、云計(jì)算和數(shù)據(jù)庫廠商紛紛加大應(yīng)用推廣力度，在國(guó)際先進(jìn)的開源大數(shù)據(jù)技術(shù)基礎(chǔ)上，形成獨(dú)自的大數(shù)據(jù)平臺(tái)構(gòu)建和應(yīng)用服務(wù)解決方案，以支撐不同行業(yè)不同領(lǐng)域的專業(yè)化應(yīng)用。

　　雖然這些企業(yè)在平臺(tái)構(gòu)建上有著得天獨(dú)厚的優(yōu)勢(shì)，但是在某些具體業(yè)務(wù)領(lǐng)域，并不擅長(zhǎng)或者關(guān)切。傳統(tǒng)企業(yè)以及從事大數(shù)據(jù)的微型企業(yè)是具體業(yè)務(wù)領(lǐng)域上大數(shù)據(jù)應(yīng)用的主力軍。應(yīng)用是大數(shù)據(jù)價(jià)值的體現(xiàn)，是大數(shù)據(jù)發(fā)展的原始推動(dòng)力。

　　當(dāng)前大數(shù)據(jù)的應(yīng)用正倒逼軟件技術(shù)、數(shù)據(jù)架構(gòu)、數(shù)據(jù)共享方式的轉(zhuǎn)變，在轉(zhuǎn)變思維過程中需要積極轉(zhuǎn)變思維，明確出數(shù)據(jù)共享的方式是什么，數(shù)據(jù)擁有者的利益如何平衡，商業(yè)模式如何開展等。

　　目前來看，許多企業(yè)在大數(shù)據(jù)產(chǎn)業(yè)鏈里僅擁有一項(xiàng)或兩項(xiàng)能力是完全不夠的，只有將大數(shù)據(jù)產(chǎn)業(yè)鏈融合連通才能催生更大的市場(chǎng)和利潤(rùn)空間。在大數(shù)據(jù)推動(dòng)的商業(yè)革命浪潮中，只有打通數(shù)據(jù)流通變現(xiàn)的商業(yè)模式，才能創(chuàng)造商業(yè)價(jià)值，從而在大數(shù)據(jù)驅(qū)動(dòng)的新生代商業(yè)格局中脫穎而出。