【備忘】年薪50萬2018年最新北風網大資料Spark2.0從入門到精通視訊教程
官方出售價格:2250元,地址:http://www.ibeifeng.com/goods-560.html
本課程主要講解目前大資料領域最熱門、最火爆、最有前景的技術——Spark。在本課程中,會從淺入深,基於大量案例實戰,深度剖析和講解Spark,並且會包含完全從企...
適合人群:中級
課時數量:278課時
用到技術:Scala、Spark、Spark SQL、Spark Streaming
涉及專案:每日uv和銷售額統計、各品類top3熱賣商品統計、每日top3熱點搜尋詞統計、廣告計費實時過濾、熱點搜尋詞滑動統計、各品類top3熱賣商品滑動實時統計
一、Scala程式設計詳解:
第1講-Spark的前世今生
第2講-課程介紹、特色與價值
第3講-Scala程式設計詳解:基礎語法
第4講-Scala程式設計詳解:條件控制與迴圈
第5講-Scala程式設計詳解:函式入門
第6講-Scala程式設計詳解:函式入門之預設引數和帶名引數
第7講-Scala程式設計詳解:函式入門之變長引數
第8講-Scala程式設計詳解:函式入門之過程、lazy值和異常
第9講-Scala程式設計詳解:陣列操作之Array、ArrayBuffer以及遍歷陣列
第10講-Scala程式設計詳解:陣列操作之陣列轉換
第11講-Scala程式設計詳解:Map與Tuple
第12講-Scala程式設計詳解:面向物件程式設計之類
第13講-Scala程式設計詳解:面向物件程式設計之物件
第14講-Scala程式設計詳解:面向物件程式設計之繼承
第15講-Scala程式設計詳解:面向物件程式設計之Trait
第16講-Scala程式設計詳解:函數語言程式設計
第17講-Scala程式設計詳解:函數語言程式設計之集合操作
第18講-Scala程式設計詳解:模式匹配
第19講-Scala程式設計詳解:型別引數
第20講-Scala程式設計詳解:隱式轉換與隱式引數
第21講-Scala程式設計詳解:Actor入門
二、課程環境搭建:
第22講-課程環境搭建:CentOS 6.5叢集搭建
第23講-課程環境搭建:Hadoop 2.4.1叢集搭建
第24講-課程環境搭建:Hive 0.13搭建
第25講-課程環境搭建:ZooKeeper 3.4.5叢集搭建
第26講-課程環境搭建:kafka_2.9.2-0.8.1叢集搭建
第27講-課程環境搭建:Spark 1.3.0叢集搭建
三、Spark核心程式設計:
第28講-Spark核心程式設計:Spark基本工作原理與RDD
第29講-Spark核心程式設計:使用Java、Scala和spark-shell開發wordcount程式
第30講-Spark核心程式設計:wordcount程式原理深度剖析
第31講-Spark核心程式設計:Spark架構原理
第32講-Spark核心程式設計:建立RDD實戰(集合、本地檔案、HDFS檔案)
第33講-Spark核心程式設計:操作RDD實戰(transformation和action案例實戰)
第34講-Spark核心程式設計:transformation操作開發案例實戰
第35講-Spark核心程式設計:action操作開發案例實戰
第36講-Spark核心程式設計:RDD持久化詳解
第37講-Spark核心程式設計:共享變數(Broadcast Variable和Accumulator)
第38講-Spark核心程式設計:高階程式設計之基於排序機制的wordcount程式
第39講-Spark核心程式設計:高階程式設計之二次排序實戰
第40講-Spark核心程式設計:高階程式設計之topn與分組取topn實戰
四、Spark核心原始碼深度剖析:
第41講-Spark核心原始碼深度剖析:Spark核心架構深度剖析
第42講-Spark核心原始碼深度剖析:寬依賴與窄依賴深度剖析
第43講-Spark核心原始碼深度剖析:基於Yarn的兩種提交模式深度剖析
第44講-Spark核心原始碼深度剖析:SparkContext初始化原理剖析與原始碼分析
第45講-Spark核心原始碼深度剖析:Master主備切換機制原理剖析與原始碼分析
第46講-Spark核心原始碼深度剖析:Master註冊機制原理剖析與原始碼分析
第47講-Spark核心原始碼深度剖析:Master狀態改變處理機制原理剖析與原始碼分析
第48講-Spark核心原始碼深度剖析:Master資源排程演算法原理剖析與原始碼分析
第49講-Spark核心原始碼深度剖析:Worker原理剖析與原始碼分析
第50講-Spark核心原始碼深度剖析:Job觸發流程原理剖析與原始碼分析
第51講-Spark核心原始碼深度剖析:DAGScheduler原理剖析與原始碼分析(stage劃分演算法與task最佳位置演算法)
第52講-Spark核心原始碼深度剖析:TaskScheduler原理剖析與原始碼分析(task分配演算法)
第53講-Spark核心原始碼深度剖析:Executor原理剖析與原始碼分析
第54講-Spark核心原始碼深度剖析:Task原理剖析與原始碼分析
第55講-Spark核心原始碼深度剖析:Shuffle原理剖析與原始碼分析(普通Shuffle與優化後的Shuffle)
第56講-Spark核心原始碼深度剖析:BlockManager原理剖析與原始碼分析(Spark底層儲存機制)
第57講-Spark核心原始碼深度剖析:CacheManager原理剖析與原始碼分析
第58講-Spark核心原始碼深度剖析:Checkpoint原理剖析與原始碼分析
五、Spark效能優化:
第59講-Spark效能優化:效能優化概覽
第60講-Spark效能優化:診斷記憶體的消耗
第61講-Spark效能優化:高效能序列化類庫
第62講-Spark效能優化:優化資料結構
第63講-Spark效能優化:對多次使用的RDD進行持久化或Checkpoint
第64講-Spark效能優化:使用序列化的持久化級別
第65講-Spark效能優化:Java虛擬機器垃圾回收調優
第66講-Spark效能優化:提高並行度
第67講-Spark效能優化:廣播共享資料
第68講-Spark效能優化:資料本地化
第69講-Spark效能優化:reduceByKey和groupByKey
第70講-Spark效能優化:shuffle效能優化
六、Spark SQL:
第71講-課程環境搭建:Spark 1.5.1新版本特性、原始碼編譯、叢集搭建
第72講-Spark SQL:前世今生
第73講-Spark SQL:DataFrame的使用
第74講-Spark SQL:使用反射方式將RDD轉換為DataFrame
第75講-Spark SQL:使用程式設計方式將RDD轉換為DataFrame
第76講-Spark SQL:資料來源之通用的load和save操作
第77講-Spark SQL:Parquet資料來源之使用程式設計方式載入資料
第78講-Spark SQL:Parquet資料來源之自動分割槽推斷
第79講-Spark SQL:Parquet資料來源之合併元資料
第80講-Spark SQL:JSON資料來源複雜綜合案例實戰
第81講-Spark SQL:Hive資料來源複雜綜合案例實戰
第82講-Spark SQL:JDBC資料來源複雜綜合案例實戰
第83講-Spark SQL:內建函式以及每日uv和銷售額統計案例實戰
第84講-Spark SQL:開窗函式以及top3銷售額統計案例實戰
第85講-Spark SQL:UDF自定義函式實戰
第86講-Spark SQL:UDAF自定義聚合函式實戰
第87講-Spark SQL:工作原理剖析以及效能優化
第87講-Spark SQL:與Spark Core整合之每日top3熱點搜尋詞統計案例實戰
第87講-Spark SQL:核心原始碼深度剖析(DataFrame lazy特性、Optimizer優化策略等)
第87講-Spark SQL:延伸知識之Hive On Spark
七、Spark Streaming:
第88講-Spark Streaming:大資料實時計算介紹
第89講-Spark Streaming:DStream以及基本工作原理
第90講-Spark Streaming:與Storm的對比分析
第91講-Spark Streaming:實時wordcount程式開發
第92講-Spark Streaming:StreamingContext詳解
第93講-Spark Streaming:輸入DStream和Receiver詳解
第94講-Spark Streaming:輸入DStream之基礎資料來源以及基於HDFS的實時wordcount案例實戰
第95講-Spark Streaming:輸入DStream之Kafka資料來源實戰(基於Receiver的方式)
第96講-Spark Streaming:輸入DStream之Kafka資料來源實戰(基於Direct的方式)
第97講-Spark Streaming:DStream的transformation操作概覽
第98講-Spark Streaming:updateStateByKey以及基於快取的實時wordcount案例實戰
第99講-Spark Streaming:transform以及廣告計費日誌實時黑名單過濾案例實戰
第100講-Spark Streaming:window滑動視窗以及熱點搜尋詞滑動統計案例實戰
第101講-Spark Streaming:DStream的output操作以及foreachRDD效能優化詳解
第102講-Spark Streaming:與Spark SQL結合使用之top3熱門商品實時統計案例實戰
第103講-Spark Streaming:快取與持久化機制詳解
第104講-Spark Streaming:Checkpoint機制詳解(Driver高可靠方案詳解)
第105講-Spark Streaming:部署、升級和監控實時應用程式
第106講-Spark Streaming:容錯機制以及事務語義詳解
第107講-Spark Streaming:架構原理深度剖析
第108講-Spark Streaming:StreamingContext初始化與Receiver啟動原理剖析與原始碼分析
第109講-Spark Streaming:資料接收原理剖析與原始碼分析
第110講-Spark Streaming:資料處理原理剖析與原始碼分析(block與batch關係透徹解析)
第111講-Spark Streaming:效能調優詳解
第112講-課程總結(學到了什麼?達到了什麼水平?)
Spark開發進階(升級內容!)
一、Scala程式設計進階:
第113講-Scala程式設計進階:Scaladoc的使用
第114講-Scala程式設計進階:跳出迴圈語句的3種方法
第115講-Scala程式設計進階:多維陣列、Java陣列與Scala陣列的隱式轉換
第116講-Scala程式設計進階:Tuple拉鍊操作、Java Map與Scala Map的隱式轉換
第117講-Scala程式設計進階:擴大內部類作用域的2種方法、內部類獲取外部類引用
第118講-Scala程式設計進階:package與import實戰詳解
第119講-Scala程式設計進階:重寫field的提前定義、Scala繼承層級、物件相等性
第120講-Scala程式設計進階:檔案操作實戰詳解
第121講-Scala程式設計進階:偏函式實戰詳解
第122講-Scala程式設計進階:執行外部命令
第123講-Scala程式設計進階:正則表示式支援
第124講-Scala程式設計進階:提取器實戰詳解
第125講-Scala程式設計進階:樣例類的提取器實戰詳解
第126講-Scala程式設計進階:只有一個引數的提取器
第127講-Scala程式設計進階:註解實戰詳解
第128講-Scala程式設計進階:常用註解介紹
第129講-Scala程式設計進階:XML基礎操作實戰詳解
第130講-Scala程式設計進階:XML中嵌入scala程式碼
第131講-Scala程式設計進階:XML修改元素實戰詳解
第132講-Scala程式設計進階:XML載入和寫入外部文件
第133講-Scala程式設計進階:集合元素操作
第134講-Scala程式設計進階:集合的常用操作方法
第135講-Scala程式設計進階:map、flatMap、collect、foreach實戰詳解
第136講-Scala程式設計進階:reduce和fold實戰詳解
二、Spark核心程式設計進階:
第137講-環境搭建-CentOS 6.4虛擬機器安裝
第138講-環境搭建-Hadoop 2.5偽分散式叢集搭建
第139講-環境搭建-Spark 1.5偽分散式叢集搭建
第140講-第一次課程升級大綱介紹以及要點說明
第141講-Spark核心程式設計進階-Spark叢集架構概覽
第142講-Spark核心程式設計進階-Spark叢集架構的幾點特別說明
第143講-Spark核心程式設計進階-Spark的核心術語講解
第144講-Spark核心程式設計進階-Spark Standalone叢集架構
第145講-Spark核心程式設計進階-單獨啟動master和worker指令碼詳解
第146講-Spark核心程式設計進階-實驗:單獨啟動master和worker程序以及啟動日誌檢視
第147講-Spark核心程式設計進階-worker節點配置以及spark-evn.sh引數詳解
第148講-Spark核心程式設計進階-實驗:local模式提交spark作業
第149講-Spark核心程式設計進階-實驗:standalone client模式提交spark作業
第150講-Spark核心程式設計進階-實驗:standalone cluster模式提交spark作業
第151講-Spark核心程式設計進階-standalone模式下的多作業資源排程
第152講-Spark核心程式設計進階-standalone模式下的作業監控與日誌記錄
第153講-Spark核心程式設計進階-實驗:執行中作業監控以及手工列印日誌
相關推薦
【備忘】年薪50萬2018年最新北風網大資料Spark2.0從入門到精通視訊教程
Spark從入門到精通(Scala程式設計、案例實戰、高階特性、Spark核心原始碼剖析、Hadoop高階)官方出售價格:2250元,地址:http://www.ibeifeng.com/goods-560.html本課程主要講解目前大資料領域最熱門、最火爆、最有前景的技術—
【備忘】年薪50萬2017年最新Spark2.0從入門到精通教程
Spark從入門到精通(Scala程式設計、案例實戰、高階特性、Spark核心原始碼剖析、Hadoop高階) 下載地址:http://www.javaxxz.com/thread-342081-1-1.html 本課程主要講解目前大資料領域最熱門、最火爆、最有前景的技術——
【備忘】2018年薪50萬2017年最新北風網Spark2.0從入門到精通教程
Spark從入門到精通(Scala程式設計、案例實戰、高階特性、Spark核心原始碼剖析、Hadoop高階)官方出售價格:2250元,地址:http://www.ibeifeng.com/goods-560.html本課程主要講解目前大資料領域最熱門、最火爆、最有前景的技術
2018年最新(傳智播客)黑馬訓練營JAVAEE49期培訓視訊教程
課程介紹 黑馬訓練營49期javaEE 培訓視訊,高清視訊,配套資料齊全。 課程目錄 01-JavaSE知識(學習27天) 02-Web前端知識(學習5天) 03-MySql資料庫與JDBC(學習3天) 04-JavaWeb知識(學習12天) 05-JavaWeb企業實戰專案(學習6天) 06-Hi
【備忘】2018年最新微信小遊戲開發 ES6+小遊戲api開發視訊教程下載
1) 課程介紹、環境開發搭建2) 微信小遊戲開發原理與JS面向物件3) 微信小遊戲邏輯梳理與API介紹4) 微信小遊戲主體開發5) 微信小遊戲音樂和振動API,獲取使用者資訊,設定和登入API,網路請求之HTTP,WebSocket,檔案下載等API詳解6) 課程總結與展望
【備忘】2018年最新node.js+ES+Koa2手把手教你開發一個短視訊網站視訊教程
1) 2018年前端程式設計趨勢2) ES6與ES7 語法特性與編寫規範3) Koa 框架 API深入講解4) Koa1 、Koa2、 Express 三大框架特點5) 開始搭建一個短片網站6) 利用爬蟲爬取網站所需基礎資料7) 深度學習 Node.js 非同步 IO8)
【備忘】2018年Vue與Vue-router和Vuex深入底層全面分析講解
一 認識vue 二 資料驅動 三 元件化 四 響應式原理深入講解(一) 五 響應式原理深入講解(二) 六 編譯(一) 七 編譯(二) 八 擴充套件(一) 九 擴充套件(二) 十 擴充套件(三) 十一 Vue-Router 十二 Vue 電子書.zip 原始碼.zip
【備忘】2018年8月新Dubbo視訊基礎入門高可用搭建及原理講解
dubbo是目前分散式系統開發裡面使用非常多的一個RPC框架。本套視訊從分散式系統的基本概念出發,由淺入深,講解了RPC原理,Dubbo基本使用,Dubbo高可用場景以及Dubbo原理,涉及了分散式系統中服務註冊、服務發現、負載均衡、灰度釋出、叢集容錯、服務降級等核心概念的
【備忘】2018年 java入門進階主流框架學習到架構與電商專案實戰
0001-多執行緒快速入門.zip 0002-多執行緒執行緒安全.zip 0003-多執行緒之間通訊.zip 0004-java併發包與併發佇列.zip 0005-執行緒池原理剖析與鎖的深度化.zip 0006-資料交換格式與反射機制與SpringIOC原理分析.zip 00
【備忘】2018年最新Java微服務原理課程與改造房產銷售平臺視訊教程
第1章 課程介紹(一線網際網路架構師親授第2章 單體架構之專案概要設計&資料表設計第3章 單體架構之SpringBoot工程框架搭建與技巧第4章 單體架構之使用者註冊及個人頁面功能開發第5章 單體架構之房產和推薦功能開發(分頁元件、Ajax、Redis)第6章 單
【備忘】ffmpeg推流命令
4.2 file ott profile evel mp4 per level lin ffmpeg -re -i "D:\\OTT\\adghg2323.mp4" -vcodec libx264 -vprofile baseline -level 30 -g 60 -vb
【備忘】Nginx 安裝
wid nss 安裝 col fix 方式 bsp ont top 安裝nginx的依賴包yum install -y pcre-devel openssl-devel參數說明 pcre兼容perl語言正則表達式, rewirte模塊 參數信息(perl方式定義正則表達式o
【備忘】總結一些Java學習者經常去的網站及論壇
學習網 source 大數 index j2ee vax comm 機器學習 http 這裏面有些網站雖然不是這方面做的最大的,但是裏面的東西確實是非常好Java學習網站JAVA學習者論壇(www.javaxxz.com):Java學習者論壇裏面的資源非常多,裏面有Java
【備忘】關於tp動態註冊路由的挖坑採坑經驗
教訓: 自我感覺沒問題的路由配置今天出了個嚴重忽略是路由造成的問題,以至於花了2個小時才解決,血的教訓,特此備忘! 正文: 我的系統最近加了個模組,舉例:叫代理模組;模組名為:agent。所有功能開發完之後,開始上線,但由於測試人員說:www.game.com/agent 訪問會報錯,查
【備忘】大資料spark SQL專案實戰分析視訊
一. 大資料初識 二. Spark以及生態圈概況 三. 專案開發環境搭建 四. Spark SQL概要 五. 從Hive平滑過渡到Spark 六. DateFrame與Dataset 七. External Data Source 八. SparkSQL願景 九. 大型網站日誌實戰 十.
【備忘】小象視訊教程 Hadoop 2.X大資料平臺V3
第1講 :hadoop生態系統以及版本演化 第2講:HDFS 2.0應用場景、原理、基本架構及使用方法 第3講:Yarn應用場景、基本架構與資源排程 第4講: MapReduce 2.0基本原理與架構 第5講 :MapReduce 2.0程式設計實踐(涉及多語言程式設計) 第6講:Hbase應用場
【備忘】web全棧架構師-56階段對標百度T6-T7視訊
階段1:初識ES6 階段2:ES6詳解 階段3:軟體的使用(2017.11.5) 階段4:Markdown,git(2017.11.6) 階段5:generator,模組化與babel(2017.11.8) 階段6:資料互動(2017.11.10) 階段7:答疑+webS
【備忘】Spring Cloud微服務架構視訊
01 Spring Cloud介紹與環境搭建 02 Spring Boot使用 03 執行第一個Eureka程式 04 搭建Eureka叢集 05 客戶端健康檢測與常用配置 06 第一個Ribbon程式 07 Ribbon負載均衡機制 08 Spring中使用Ribbon 0
【備忘】Lucene從入門到專案中運用視訊
01_lucenc簡介和建立索引初步.avi 02_lucene簡介和搜尋初步.avi 03_lucene索引_建立_域選項.avi 04_lucene索引_的刪除和更新.avi 05_lucene索引_加權操作和Luke的簡單演示.avi 06_對日期和數字進行索引.av
【備忘】【不定時更新】那些有用有趣的網站君們~~
喜歡就加為收藏! oeasy,會玩才會學:http://oeasy.org/ 學電腦軟體、黑技術,老師很萌 一畫換一畫:http://www.sketchswap.com/ 你畫一幅畫,提交後,交換一副來自世界某個地方某個人的另一幅畫