從表象看本質(zhì):深度解構(gòu)并思考大數(shù)據(jù)
我希望有些不一樣,所以對該如何去認(rèn)識大數(shù)據(jù)進(jìn)行了一番思索,包括查閱了資料,翻閱了新的專業(yè)書籍,但我并不想把那些零散的資料碎片或不同理解論述簡單規(guī)整并堆積起來形成毫無價值的轉(zhuǎn)述或評論,我很真誠的希望進(jìn)入事物探尋本質(zhì)。
如果你說大數(shù)據(jù)就是數(shù)據(jù)大,或者侃侃而談4個V,也許很有深度的談到BI或預(yù)測的價值,又或者拿Google和Amazon舉例,技術(shù)流可能會聊起Hadoop和Cloud Computing,不管對錯,只是無法勾勒對大數(shù)據(jù)的整體認(rèn)識,不說是片面,但至少有些管窺蠡測、隔衣瘙癢了。……也許,“解構(gòu)”是好的方法。
怎樣解構(gòu)大數(shù)據(jù)?
首先,我認(rèn)為大數(shù)據(jù)就是互聯(lián)網(wǎng)發(fā)展到現(xiàn)今階段的一種表象或特征而已,沒有必要神話它或?qū)λ3志次分模谝?a target="_blank" href="http://www.caslcampaign.com/product/T4611/list.html">云計算為代表的技術(shù)創(chuàng)新大幕的襯托下,這些原本很難收集和使用的數(shù)據(jù)開始容易被利用起來了,通過各行各業(yè)的不斷創(chuàng)新,大數(shù)據(jù)會逐步為人類創(chuàng)造更多的價值。
其次,想要系統(tǒng)的認(rèn)知大數(shù)據(jù),必須要全面而細(xì)致的分解它,我著手從三個層面來展開:
大數(shù)據(jù)的三個層面
層面是理論,理論是認(rèn)知的必經(jīng)途徑,也是被廣泛認(rèn)同和傳播的基線。我會從大數(shù)據(jù)的特征定義理解行業(yè)對大數(shù)據(jù)的整體描繪和定性;從對大數(shù)據(jù)價值的探討來深入解析大數(shù)據(jù)的珍貴所在;從對大數(shù)據(jù)的現(xiàn)在和未來去洞悉大數(shù)據(jù)的發(fā)展趨勢;從大數(shù)據(jù)隱私這個特別而重要的視角審視人和數(shù)據(jù)之間的長久博弈。
第二層面是技術(shù),技術(shù)是大數(shù)據(jù)價值體現(xiàn)的手段和前進(jìn)的基石。我將分別從云計算、分布式處理技術(shù)、存儲技術(shù)和感知技術(shù)的發(fā)展來說明大數(shù)據(jù)從采集、處理、存儲到形成結(jié)果的整個過程。
第三層面是實踐,實踐是大數(shù)據(jù)的終價值體現(xiàn)。我將分別從互聯(lián)網(wǎng)的大數(shù)據(jù),政府的大數(shù)據(jù),企業(yè)的大數(shù)據(jù)和個人的大數(shù)據(jù)四個方面來描繪大數(shù)據(jù)已經(jīng)展現(xiàn)的美好景象及即將實現(xiàn)的藍(lán)圖。
和大數(shù)據(jù)相關(guān)的理論
1、特征定義
早提出大數(shù)據(jù)時代到來的是麥肯錫:“數(shù)據(jù),已經(jīng)滲透到當(dāng)今每一個行業(yè)和業(yè)務(wù)職能領(lǐng)域,成為重要的生產(chǎn)因素。人們對于海量數(shù)據(jù)的挖掘和運用,預(yù)示著新一波生產(chǎn)率增長和消費者盈余浪潮的到來。”
業(yè)界(IBM早定義)將大數(shù)據(jù)的特征歸納為4個“V”(量Volume,多樣Variety,價值Value,速Velocity),或者說特點有四個層面:,數(shù)據(jù)體量巨大。大數(shù)據(jù)的起始計量單位至少是P(1000個T)、E(100萬個T)或Z(10億個T);第二,數(shù)據(jù)類型繁多。比如,網(wǎng)絡(luò)日志、視頻、圖片、地理位置信息等等。第三,價值密度低,商業(yè)價值高。第四,處理速度快。后這一點也是和傳統(tǒng)的數(shù)據(jù)挖掘技術(shù)有著本質(zhì)的不同。
其實這些V并不能真正說清楚大數(shù)據(jù)的所有特征,下面這張圖對大數(shù)據(jù)的一些相關(guān)特性做出了有效的說明。
古語云:三分技術(shù),七分?jǐn)?shù)據(jù),得數(shù)據(jù)者得天下。先不論誰說的,但是這句話的正確性已經(jīng)不用去論證了。維克托·邁爾-舍恩伯格在《大數(shù)據(jù)時代》一書中舉了百般例證,都是為了說明一個道理:在大數(shù)據(jù)時代已經(jīng)到來的時候要用大數(shù)據(jù)思維去發(fā)掘大數(shù)據(jù)的潛在價值。書中,作者提及多的是Google如何利用人們的搜索記錄挖掘數(shù)據(jù)二次利用價值,比如預(yù)測某地流感爆發(fā)的趨勢;Amazon如何利用用戶的購買和瀏覽歷史數(shù)據(jù)進(jìn)行有針對性的書籍購買推薦,以此有效提升銷售量;Farecast如何利用過去十年所有的航線機票價格打折數(shù)據(jù),來預(yù)測用戶購買機票的時機是否合適。
那么,什么是大數(shù)據(jù)思維?維克托·邁爾-舍恩伯格認(rèn)為,1-需要全部數(shù)據(jù)樣本而不是抽樣;2-關(guān)注效率而不是度;3-關(guān)注相關(guān)性而不是因果關(guān)系。
阿里巴巴的王堅對于大數(shù)據(jù)也有一些獨特的見解,比如,
“今天的數(shù)據(jù)不是大,真正有意思的是數(shù)據(jù)變得在線了,這個恰恰是互聯(lián)網(wǎng)的特點。”
“非互聯(lián)網(wǎng)時期的產(chǎn)品,功能一定是它的價值,今天互聯(lián)網(wǎng)的產(chǎn)品,數(shù)據(jù)一定是它的價值。”
“你千萬不要想著拿數(shù)據(jù)去改進(jìn)一個業(yè)務(wù),這不是大數(shù)據(jù)。你一定是去做了一件以前做不了的事情。”
特別是后一點,我是非常認(rèn)同的,大數(shù)據(jù)的真正價值在于創(chuàng)造,在于填補無數(shù)個還未實現(xiàn)過的空白。
有人把數(shù)據(jù)比喻為蘊藏能量的煤礦。煤炭按照性質(zhì)有焦煤、無煙煤、肥煤、貧煤等分類,而露天煤礦、深山煤礦的挖掘成本又不一樣。與此類似,大數(shù)據(jù)并不在“大”,而在于“有用”。價值含量、挖掘成本比數(shù)量更為重要。
2、價值探討
大數(shù)據(jù)是什么?投資者眼里是金光閃閃的兩個字:資產(chǎn)。比如,F(xiàn)acebook上市時,評估機構(gòu)評定的有效資產(chǎn)中大部分都是其社交網(wǎng)站上的數(shù)據(jù)。
如果把大數(shù)據(jù)比作一種產(chǎn)業(yè),那么這種產(chǎn)業(yè)實現(xiàn)盈利的關(guān)鍵,在于提高對數(shù)據(jù)的“加工能力”,通過“加工”實現(xiàn)數(shù)據(jù)的“增值”。
Target超市以20多種懷孕期間孕婦可能會購買的商品為基礎(chǔ),將所有用戶的購買記錄作為數(shù)據(jù)來源,通過構(gòu)建模型分析購買者的行為相關(guān)性,能準(zhǔn)確的推斷出孕婦的具體臨盆時間,這樣Target的銷售部門就可以有針對的在每個懷孕顧客的不同階段寄送相應(yīng)的產(chǎn)品優(yōu)惠卷。
Target的例子是一個很典型的案例,這樣印證了維克托·邁爾-舍恩伯格提過的一個很有指導(dǎo)意義的觀點:通過找出一個關(guān)聯(lián)物并監(jiān)控它,就可以預(yù)測未來。Target通過監(jiān)測購買者購買商品的時間和品種來準(zhǔn)確預(yù)測顧客的孕期,這就是對數(shù)據(jù)的二次利用的典型案例。如果,我們通過采集駕駛員手機的GPS數(shù)據(jù),就可以分析出當(dāng)前哪些道路正在堵車,并可以及時發(fā)布道路交通提醒;通過采集汽車的GPS位置數(shù)據(jù),就可以分析城市的哪些區(qū)域停車較多,這也代表該區(qū)域有著較為活躍的人群,這些分析數(shù)據(jù)適合賣給廣告投放商。
不管大數(shù)據(jù)的核心價值是不是預(yù)測,但是基于大數(shù)據(jù)形成決策的模式已經(jīng)為不少的企業(yè)帶來了盈利和聲譽。
從大數(shù)據(jù)的價值鏈條來分析,存在三種模式:
手握大數(shù)據(jù),但是沒有利用好;比較典型的是金融機構(gòu),電信行業(yè),政府機構(gòu)等。
沒有數(shù)據(jù),但是知道如何幫助有數(shù)據(jù)的人利用它;比較典型的是IT咨詢和服務(wù)企業(yè),比如,埃森哲,IBM,Oracle等。
既有數(shù)據(jù),又有大數(shù)據(jù)思維;比較典型的是Google,Amazon,Mastercard等。
未來在大數(shù)據(jù)領(lǐng)域具有價值的是兩種事物:
擁有大數(shù)據(jù)思維的人,這種人可以將大數(shù)據(jù)的潛在價值轉(zhuǎn)化為實際利益;
還未有被大數(shù)據(jù)觸及過的業(yè)務(wù)領(lǐng)域。這些是還未被挖掘的油井,金礦,是所謂的藍(lán)海。
Wal-Mart作為零售行業(yè)的巨頭,他們的分析人員會對每個階段的銷售記錄進(jìn)行了全面的分析,有一次他們無意中發(fā)現(xiàn)雖不相關(guān)但很有價值的數(shù)據(jù),在美國的颶風(fēng)來臨季節(jié),超市的蛋撻和抵御颶風(fēng)物品竟然銷量都有大幅增加,于是他們做了一個明智決策,就是將蛋撻的銷售位置移到了颶風(fēng)物品銷售區(qū)域旁邊,看起來是為了方便用戶挑選,但是沒有想到蛋撻的銷量因此又提高了很多。
還有一個有趣的例子,1948年遼沈戰(zhàn)役期間,司令員林彪要求每天要進(jìn)行例常的“每日軍情匯報”,由值班參謀讀出下屬各個縱隊、師、團用電臺報告的當(dāng)日戰(zhàn)況和繳獲情況。那幾乎是重復(fù)著千篇一律枯燥無味的數(shù)據(jù):每支部隊殲敵多少、俘虜多少;繳獲的火炮、車輛多少,槍支、物資多少……有一天,參謀照例匯報當(dāng)日的戰(zhàn)況,林彪突然打斷他:“剛才念的在胡家窩棚那個戰(zhàn)斗的繳獲,你們聽到了嗎?”大家都很茫然,因為如此戰(zhàn)斗每天都有幾十起,不都是差不多一模一樣的枯燥數(shù)字嗎?林彪掃視一周,見無人回答,便接連問了三句:“為什么那里繳獲的短槍與長槍的比例比其它戰(zhàn)斗略高?”“為什么那里繳獲和擊毀的小車與大車的比例比其它戰(zhàn)斗略高?”“為什么在那里俘虜和擊斃的軍官與士兵的比例比其它戰(zhàn)斗略高?”林彪司令員大步走向掛滿軍用地圖的墻壁,指著地圖上的那個點說:“我猜想,不,我斷定!敵人的指揮所就在這里!”果然,部隊很快就抓住了敵方的指揮官廖耀湘,并取得這場重要戰(zhàn)役的勝利。
這些例子真實的反映在各行各業(yè),探求數(shù)據(jù)價值取決于把握數(shù)據(jù)的人,關(guān)鍵是人的數(shù)據(jù)思維;與其說是大數(shù)據(jù)創(chuàng)造了價值,不如說是大數(shù)據(jù)思維觸發(fā)了新的價值增長。