給大家分享一下Spark是什麽?如何用Spark進行數據分析，對大數據感興趣的小夥伴就隨著小編一起來了解一下吧。

大數據在線學習

什麽是Apache Spark?

Apache Spark是一個為速度和通用目標設計的集群計算平臺。

從速度的角度看，Spark從流行的MapReduce模型繼承而來，可以更有效地支持多種類型的計算，如交互式查詢和流處理。速度在大數據集的處理中非常重要，它可以決定用戶可以交互式地處理數據，還是等幾分鐘甚至幾小時。Spark為速度提供的一個重要特性是其可以在內存中運行計算，即使對基於磁盤的復雜應用，Spark依然比MapReduce更有效。

從通用性來說，Spark可以處理之前需要多個獨立的分布式系統來處理的任務，這些任務包括批處理應用、交互式算法、交互式查詢和數據流。通過用同一個引擎支持這些任務，Spark使得合並不同的處理類型變得簡單，而合並操作在生產數據分析中頻繁使用。而且，Spark降低了維護不同工具的管理負擔。

Spark被設計的高度易訪問，用Python、Java、Scala和SQL提供簡單的API，而且提供豐富的內建庫。Spark也與其他大數據工具進行了集成。特別地，Spark可以運行在Hadoop的集群上，可以訪問任何Hadoop的數據源，包括Cassandra。

Spark 核心組件

Spark核心組件包含Spark的基本功能，有任務調度組件、內存管理組件、容錯恢復組件、與存儲系統交互的組件等。Spark核心組件提供了定義彈性分布式數據集(resilient distributed datasets，RDDs)的API，這組API是Spark主要的編程抽象。RDDs表示分布在多個不同機器節點上，可以被並行處理的數據集合。Spark核心組件提供許多API來創建和操作這些集合。

Spark SQLSpark SQL是Spark用來處理結構化數據的包。它使得可以像Hive查詢語言(Hive Query Language, HQL)一樣通過SQL語句來查詢數據，支持多種數據源，包括Hive表、Parquet和JSON。除了為Spark提供一個SQL接口外，Spark SQL允許開發人員將SQL查詢和由RDDs通過Python、Java和Scala支持的數據編程操作混合進一個單一的應用中，進而將SQL與復雜的分析結合。與計算密集型環境緊密集成使得Spark SQL不同於任何其他開源的數據倉庫工具。Spark SQL在Spark 1.0版本中引入Spark。

Shark是一個較老的由加利福尼亞大學和伯克利大學開發的Spark上的SQL項目，通過修改Hive而運行在Spark上。現在已經被Spark SQL取代，以提供與Spark引擎和API更好的集成。

Spark流(Spark Streaming)Spark流作為Spark的一個組件，可以處理實時流數據。流數據的例子有生產環境的Web服務器生成的日誌文件，用戶向一個Web服務請求包含狀態更新的消息。Spark流提供一個和Spark核心RDD API非常匹配的操作數據流的API，使得編程人員可以更容易地了解項目，並且可以在操作內存數據、磁盤數據、實時數據的應用之間快速切換。Spark流被設計為和Spark核心組件提供相同級別的容錯性，吞吐量和可伸縮性。

MLlibSpark包含一個叫做MLlib的關於機器學習的庫。MLlib提供多種類型的機器學習算法，包括分類、回歸、聚類和協同過濾，並支持模型評估和數據導入功能。MLlib也提供一個低層的機器學習原語，包括一個通用的梯度下降優化算法。所有這些方法都可以應用到一個集群上。

GraphXGraphX是一個操作圖(如社交網絡的好友圖)和執行基於圖的並行計算的庫。與Spark流和Spark SQL類似，GraphX擴展了Spark RDD API，允許我們用和每個節點和邊綁定的任意屬性來創建一個有向圖。GraphX也提供了各種各樣的操作圖的操作符，以及關於通用圖算法的一個庫。

集群管理器Cluster Managers在底層，Spark可以有效地從一個計算節點擴展到成百上千個節點。為了在最大化靈活性的同時達到這個目標，Spark可以運行在多個集群管理器上，包括Hadoop YARN，Apache Mesos和一個包含在Spark中的叫做獨立調度器的簡易的集群管理器。如果你在一個空的機器群上安裝Spark，獨立調度器提供一個簡單的方式;如果你已經有一個Hadoop YARN或Mesos集群，Spark支持你的應用允許在這些集群管理器上。第七章給出了不同的選擇，以及如何選擇正確的集群管理器。

誰使用Spark?用Spark做什麽?

由於Spark是一個面向集群計算的通用框架，可用於許多不同的應用。使用者主要有兩種：數據科學家和數據工程師。我們仔細地分析一下這兩種人和他們使用Spark的方式。明顯地，典型的使用案例是不同的，但我們可以將他們粗略地分為兩類，數據科學和數據應用。

數據科學的任務數據科學，近幾年出現的一門學科，專註於分析數據。盡管沒有一個標準的定義，我們認為一個數據科學家的主要工作是分析和建模數據。數據科學家可能會SQL，統計學，預測模型(機器學習)，用Python、MATLAB或R編程。數據科學家能將數據格式化，用於進一步的分析。

數據科學家為了回答一個問題或進行深入研究，會使用相關的技術分析數據。通常，他們的工作包含特殊的分析，所以他們使用交互式shell，以使得他們能在最短的時間內看到查詢結果和代碼片段。Spark的速度和簡單的API接口很好地符合這個目標，它的內建庫意味著很多算法可以隨時使用。

Spark通過若幹組件支持不同的數據科學任務。Spark shell使得用Python或Scala進行交互式數據分析變得簡單。Spark SQL也有一個獨立的SQL shell，可以用SQL進行數據分析，也可以在Spark程序中或Spark shell中使用Spark SQL。MLlib庫支持機器學習和數據分析。而且，支持調用外部的MATLAB或R語言編寫的程序。Spark使得數據科學家可以用R或Pandas等工具處理包含大量數據的問題。

有時，經過初始的數據處理階段後，數據科學家的工作將被產品化，擴展，加固(容錯性)，進而成為一個生產數據處理應用，作為商業應用的一個組件。例如，一個數據科學家的研究成果可能會產生一個產品推薦系統，集成到一個web應用上，用來向用戶生成產品建議。通常由另外的人員(如工程師)對數據科學家的工作進行產品化。

數據處理應用Spark的另外一個主要的使用可以從工程師的角度進行描述。在這裏，工程師指使用Spark來構建生產數據處理應用的大量的軟件開發者。這些開發者了解軟件工程的概念和原則，如封裝、接口設計和面向對象編程。他們通常有計算機學科的學位。他們通過自己的軟件工程技能來設計和構建實現某個商業使用場景的軟件系統。

對工程師而言，Spark提供了一個簡單的方式在集群之間並行化這些應用，隱藏了分布式系統、網絡通信和容錯處理的復雜性。系統使得工程師在實現任務的同時，有充足的權限監控、檢查和調整應用。API的模塊特性使得重用已有工作和本地測試變得簡單。

Spark用戶使用Spark作為其數據處理應用，因為他提供了豐富的功能，易於學習和使用，而且成熟可靠。如果你已經做好準備，那麽就立即開始行動吧！

大家多多關註，你的關註是我最大的動力。

想學習大數據的可以加群：142973723

大數據學習：Spark是什麽，如何用Spark進行數據分析