什么是大數據

　　大數據（big data），指無法在一定時間范圍內用常規軟件工具進行捕捉、管理和處理的數據集合，是需要新處理模式才能具有更強的決策力、洞察發現力和流程優化能力的海量、高增長率和多樣化的信息資產。

　　在維克托·邁爾-舍恩伯格及肯尼斯·庫克耶編寫的《大數據時代》 中大數據指不用隨機分析法（抽樣調查）這樣捷徑，而采用所有數據進行分析處理。大數據的5V特點（IBM提出）：Volume（大量）、Velocity（高速）、Variety（多樣）、Value（低價值密度）、Veracity（真實性）。

　　對于“大數據”（Big data）研究機構Gartner給出了這樣的定義。“大數據”是需要新處理模式才能具有更強的決策力、洞察發現力和流程優化能力來適應海量、高增長率和多樣化的信息資產。

　　毫無疑問，世界上所有關注開發技術的人都意識到“大數據”對企業商務所蘊含的潛在價值，其目的都在于解決在企業發展過程中各種業務數據增長所帶來的痛苦。

　　現實是，許多問題阻礙了大數據技術的發展和實際應用。

　　因為一種成功的技術，需要一些衡量的標準?，F在我們可以通過幾個基本要素來衡量一下大數據技術，這就是——流處理、并行性、摘要索引和可視化。

　　大數據技術涵蓋哪些內容？

　　1、流處理

　　伴隨著業務發展的步調，以及業務流程的復雜化，我們的注意力越來越集中在“數據流”而非“數據集”上面。

　　決策者感興趣的是緊扣其組織機構的命脈，并獲取實時的結果。他們需要的是能夠處理隨時發生的數據流的架構，當前的數據庫技術并不適合數據流處理。

　　例如，計算一組數據的平均值，可以使用一個傳統的腳本實現。但對于移動數據平均值的計算，不論是到達、增長還是一個又一個的單元，有更高效的算法。如果你想構建數據倉庫，并執行任意的數據分析、統計，開源的產品R或者類似于SAS的商業產品就可以實現。但是你想創建的是一個數據流統計集，對此逐步添加或移除數據塊，進行移動平均計算，而且數據庫不存在或者尚不成熟。

　　數據流周邊的生態系統有欠發達。換言之，如果你正在與一家供應商洽談一個大數據項目，那么你必須知道數據流處理對你的項目而言是否重要，并且供應商是否有能力提供。

　　2、并行化

　　大數據的定義有許多種，以下這種相對有用?！靶祿钡那樾晤愃朴谧烂姝h境，磁盤存儲能力在1GB到10GB之間，“中數據”的數據量在100GB到1TB之間，“大數據”分布式的存儲在多臺機器上，包含1TB到多個PB的數據。

　　如果你在分布式數據環境中工作，并且想在很短的時間內處理數據，這就需要分布式處理。

　　并行處理在分布式數據中脫穎而出，Hadoop是一個分布式/并行處理領域廣為人知的例子。Hadoop包含一個大型分布式的文件系統，支持分布式/并行查詢。

　　3、摘要索引

　　摘要索引是一個對數據創建預計算摘要，以加速查詢運行的過程。摘要索引的問題是，你必須為要執行的查詢做好計劃，因此它有所限制。

　　數據增長飛速，對摘要索引的要求遠不會停止，不論是長期考慮還是短期，供應商必須對摘要索引的制定有一個確定的策略。

　　4、數據可視化

　　可視化工具有兩大類。

　　探索性可視化描述工具可以幫助決策者和分析師挖掘不同數據之間的聯系，這是一種可視化的洞察力。類似的工具有Tableau、TIBCO和QlikView，這是一類。

　　敘事可視化工具被設計成以獨特的方式探索數據。例如，如果你想以可視化的方式在一個時間序列中按照地域查看一個企業的銷售業績，可視化格式會被預先創建。數據會按照地域逐月展示，并根據預定義的公式排序。供應商Perceptive Pixel就屬于這一類。

　　大數據技術有哪些

　　1、跨粒度計算（In-DatabaseComputing）

　　Z-Suite支持各種常見的匯總，還支持幾乎全部的專業統計函數。得益于跨粒度計算技術，Z-Suite數據分析引擎將找尋出最優化的計算方案，繼而把所有開銷較大的、昂貴的計算都移動到數據存儲的地方直接計算，我們稱之為庫內計算（In-Database）。這一技術大大減少了數據移動，降低了通訊負擔，保證了高性能數據分析。

　　2、并行計算（MPP Computing）

　　Z-Suite是基于MPP架構的商業智能平臺，她能夠把計算分布到多個計算節點，再在指定節點將計算結果匯總輸出。Z-Suite能夠充分利用各種計算和存儲資源，不管是服務器還是普通的PC，她對網絡條件也沒有嚴苛的要求。作為橫向擴展的大數據平臺，Z-Suite能夠充分發揮各個節點的計算能力，輕松實現針對TB/PB級數據分析的秒級響應。

　　3、列存儲 （Column-Based）

　　Z-Suite是列存儲的。基于列存儲的數據集市，不讀取無關數據，能降低讀寫開銷，同時提高I/O 的效率，從而大大提高查詢性能。另外，列存儲能夠更好地壓縮數據，一般壓縮比在5 -10倍之間，這樣一來，數據占有空間降低到傳統存儲的1/5到1/10 。良好的數據壓縮技術，節省了存儲設備和內存的開銷，卻大大了提升計算性能。

　　4、內存計算

　　得益于列存儲技術和并行計算技術，Z-Suite能夠大大壓縮數據，并同時利用多個節點的計算能力和內存容量。一般地，內存訪問速度比磁盤訪問速度要快幾百倍甚至上千倍。通過內存計算，CPU直接從內存而非磁盤上讀取數據并對數據進行計算。內存計算是對傳統數據處理方式的一種加速，是實現大數據分析的關鍵應用技術。

　　注意事項

　　大數據技術的戰略意義不在于掌握龐大的數據信息，而在于對這些含有意義的數據進行專業化處理。換言之，如果把大數據比作一種產業，那么這種產業實現盈利的關鍵，在于提高對數據的“加工能力”，通過“加工”實現數據的“增值”。