本課程屬于Hadoop課程的深入高階升級課程，理論結(jié)合實戰(zhàn)操作，對hadoop2.0的高階應(yīng)用及其他重要子項目做了詳細(xì)深入地講解和實戰(zhàn)操作，其中涉及了豐富的實例操作以及錯誤診斷的案例!

 

1.課程環(huán)境

本課程涉及的技術(shù)產(chǎn)品及相關(guān)版本：

技術(shù)	版本
Linux	CentOS 6.5
Java	1.7
Hadoop2.0	2.6.0
Hadoop1.0	1.2.1
Zookeeper	3.4.6
CDH Hadoop	5.3.0
Vmware	10
Hive	0.13.1
HBase	0.98.6
Impala	2.1.0
Oozie	4.0.0
Hue	3.7.0

 

2.內(nèi)容簡介

本教程針對有一定Hadoop基礎(chǔ)的學(xué)員，深入講解如下方面的內(nèi)容：

1、Hadoop2.0高階運維，包括Hadoop節(jié)點增加刪除、HDFS和YARN的HA實現(xiàn)，

HDFS Federation實現(xiàn)等

2、搭建本地Yum部署CDH5的重要組件和優(yōu)化配置

3、Impala、Oozie和Hue的部署、使用操作及調(diào)優(yōu)

4、Hadoop安全認(rèn)證及授權(quán)管理

5、Hadoop各組件性能調(diào)優(yōu)

 

迪倫老師:某知名500強(qiáng)企業(yè)大數(shù)據(jù)平臺架構(gòu)師，大數(shù)據(jù)處理專家。長期從事于大數(shù)據(jù)基礎(chǔ)架構(gòu)建設(shè)、企業(yè)級數(shù)據(jù)倉庫、大數(shù)據(jù)分析、挖掘等領(lǐng)域項目的開發(fā)及管理。

熟悉多種技術(shù)架構(gòu)的綜合運用，包括Hadoop、Greenplum、Oracle、Cognos、Datastage等。對于Hadoop生態(tài)系統(tǒng)，特別是Hive、HBase、Mahout等開源框架的業(yè)務(wù)應(yīng)用、   可靠性、基礎(chǔ)架構(gòu)和高級應(yīng)用等方面有著豐富經(jīng)驗。

 

 

一、Hadoop2.0 動態(tài)增加節(jié)點

01.1 怎樣添加節(jié)點

01.2 添加新的服務(wù)器節(jié)點

01.3 新節(jié)點操作系統(tǒng)配置

01.4 新節(jié)點Hadoop配置

01.5 調(diào)整新節(jié)點副本數(shù)

 

二、Hadoop2.0 動態(tài)刪除節(jié)點

02.1 怎樣刪除節(jié)點

02.2 刪除Hadoop2.0集群節(jié)點

02.3 測試監(jiān)控刪除節(jié)點后的集群

 

三、Hadoop2.0 HDFS HA部署

03.1 HDFS HA的實現(xiàn)方式

03.2 HDFS HA的實現(xiàn)步驟

03.3 HA集群環(huán)境配置

03.4 HA hdfs-site.xml參數(shù)配置

03.5 HA其他參數(shù)配置

03.6 JournalNode服務(wù)啟動及初始化

03.7 HDFS HA服務(wù)啟動及手工切換

03.8 基于ZK自動切換模式的實現(xiàn)

03.9 HDFS HA中ZooKeeper部署

03.10 配置HDFS HA自動切換模式

03.11 HDFS HA自動故障切換測試

 

四、Hadoop2.0 HDFS HA+Federation部署

04.1 HDFS Federation的實現(xiàn)方式及規(guī)劃

04.2 HDFS Federation的配置步驟

04.3 配置HDFS Federation

04.4 HDFS Federation服務(wù)啟動及測試

04.5 HDFS HA+Federation實現(xiàn)及配置步驟

04.6 HDFS HA+Federation的配置及服務(wù)啟動

04.7 HDFS HA+Federation集群故障模擬測試

 

五、Hadoop升級

05.1 Hadoop內(nèi)部升級的實現(xiàn)

05.2 Hadoop1.0升級到2.0步驟

05.3 HDFS升級配置操作

05.4 執(zhí)行HDFS升級并測試驗證

05.5 MapReduce升級

 

六、Hadoop2.0 YARN HA部署

06.1 YARN HA的實現(xiàn)

06.2 YARN HA的配置步驟及其相關(guān)參數(shù)

06.3 Hadoop2.0 YARN HA配置操作

06.4 YARN HA服務(wù)啟動及測試

06.5 YARN HA測試及錯誤處理

06.6 解決YARN HA啟動錯誤的問題

06.7 HDFS+YARN HA故障模擬測試

 

七、Hadoop安全管理深度剖析

07.1-Hadoop安全背景

07.2-Hadoop1.0安全問題及處理機(jī)制

07.3 Kerberos基本概念及授權(quán)認(rèn)證過程

07.4 Kerberos在Hadoop中的應(yīng)用

07.5 Hadoop1.0安全機(jī)制的具體實現(xiàn)

07.6 RPC安全之身份認(rèn)證機(jī)制

07.7 RPC安全之服務(wù)訪問控制機(jī)制

07.8 HDFS安全策略

07.9 Mapreduce安全策略

07.10 Hadoop上層服務(wù)的安全策略

07.11 Hadoop1.0安全機(jī)制的應(yīng)用場景

07.12 Hadoop2.0安全認(rèn)證機(jī)制的實現(xiàn)

07.13 Yarn中的各類令牌及其作用

07.14 Hadoop2.0授權(quán)機(jī)制的實現(xiàn)

 

八、搭建本地yum安裝CDH5 Hadoop集群

08.1 為什么選擇CDH

08.2 CDH的體系架構(gòu)

08.3 CDH的集群規(guī)劃

08.4 CDH操作系統(tǒng)配置步驟

08.5 CDH集群主機(jī)名及網(wǎng)絡(luò)配置

08.6 操作系統(tǒng)yum源配置

08.7 CDH5的yum源配置

08.8 主機(jī)間信任關(guān)系的建立

08.9 NTP時間同步服務(wù)配置

08.10 JDK安裝

08.11 安裝和配置HDFS步驟

08.12 YUM安裝HDFS

08.13 CDH集群環(huán)境變量配置

08.14 CDH5 HDFS核心配置

08.15 HDFS其他重要配置及服務(wù)啟動

08.16 安裝和配置YARN的步驟

08.17 YARN的安裝

08.18 YARN的核心參數(shù)配置

08.19 MapReduce相關(guān)參數(shù)配置

08.20 服務(wù)啟動及驗證

08.21 CDH5集群測試

08.22 webHDFS的使用

 

九、基于Kerberos認(rèn)證的Hadoop安全管理

09.1 Kerberos集群規(guī)劃及配置步驟

09.2 Kerberos安裝配置

09.3 Kerberos數(shù)據(jù)庫創(chuàng)建及服務(wù)啟動

09.4 Kerberos的使用及測試

09.5 Kerberos principal和keytab概念剖析

09.6 HDFS上配置Kerberos步驟

09.7 HDFS principal創(chuàng)建及生成keytab文件

09.8 HDFS keytab文件部署

09.9 HDFS安全參數(shù)配置

09.10 Namenode服務(wù)的安全啟動

09.11 Datanode服務(wù)的安全啟動

09.12 HDFS安全使用測試

09.13 YARN配置Kerberos步驟

09.14 YARN principal創(chuàng)建及keytab文件生成部署

09.15 YARN安全參數(shù)配置

09.16 YARN服務(wù)安全啟動及測試

09.17 自動化集群管理

 

十、Zookeeper&HIVE&HBASE&LDAP實現(xiàn)Kerberos認(rèn)證

10.01 Zookeeper配置Kerberos步驟

10.02 通過Yum安裝Zookeeper

10.03 Zookeeper Server配置Kerberos

10.04 Zookeeper Client配置kerberos

10.05 HBase相關(guān)概念深度解析

10.06 HBase配置Kerberos步驟

10.07 通過Yum安裝HBase 01

10.08 通過Yum安裝HBase 02

10.09 為HBase配置Kerberos

10.10 HBase啟動錯誤診斷及測試

10.11 CDH Hive架構(gòu)及配置Kerberos認(rèn)證步驟

10.12 安裝HIVE組件及配置PostgreSQL

10.13 Hive的基礎(chǔ)配置

10.14 為Hive配置Kerberos認(rèn)證

10.15 Hive shell及Beeline安全訪問測試

10.16 hive與hbase集成原理

10.17 hive-hbase集成安裝配置

10.18 hive-hbase映射表創(chuàng)建

10.19 LDAP基本概念

10.20 LDAP模式設(shè)計

10.21 LDAP集成Kerberos配置步驟

10.22 LDAP安裝和基礎(chǔ)配置

10.23 LDAP集成Kerberos及數(shù)據(jù)庫創(chuàng)建

10.24 導(dǎo)入系統(tǒng)用戶到LDAP

10.25 OpenLDAP客戶端配置和使用

 

十一、Impala大數(shù)據(jù)分析引擎

11.01 什么是Impala

11.02 Impala架構(gòu)和進(jìn)程

11.03 Impala安裝配置步驟

11.04 Impala安裝部署

11.05 Impala配置及服務(wù)啟動

11.06 Impala配置Kerberos認(rèn)證

11.07 Impala啟停故障處理及測試

11.08 Impala的使用

11.09 Impala-shell基本功能的使用

11.10 Impala連接查詢

11.11 Impala聚合及子查詢

11.12 Impala分區(qū)表的使用

11.13 Impala的優(yōu)化

11.14 Impala收集統(tǒng)計信息及生成查詢計劃

11.15 HDFS緩存池在Impala中的使用

 

十二、Oozie&Hue的使用及安全認(rèn)證管理

12.01 什么是oozie

12.02 Oozie安裝和配置步驟

12.03 Oozie安裝和基本配置

12.04 Oozie安全配置及服務(wù)啟動 

12.05 Oozie啟動問題處理

12.06 Oozie Mapreduce作業(yè)測試

12.07 Oozie常用命令及工作流程定義

12.08 Oozie MR&hive&sqoop動作節(jié)點配置

12.09 Oozie pig&ssh&java&sw&shell動作節(jié)點配置

12.10 Oozie Coordinator作業(yè)

12.11 Coordinator動作和應(yīng)用定義

12.12 Oozie Bundle應(yīng)用定義

12.13 什么是Hue

12.14 安裝配置Hue-HDFS&YARN

12.15 Hue配置Hive、Kerberos、Imapala和Zookeeper等

12.16 Hue安裝啟動問題處理

12.17 Hue頁面初始化及查詢問題解決

12.18 Hue控制臺的使用

 

十三、Hadoop2.0授權(quán)及資源調(diào)度管理

13.01 Hadoop授權(quán)管理基礎(chǔ)知識

13.02 服務(wù)訪問授權(quán)

13.03 服務(wù)級授權(quán)配置實例

13.04 隊列訪問控制列表

13.05 隊列訪問控制配置實例

13.06 公平調(diào)度器配置步驟

13.07 公平調(diào)度器配置實例

13.08公平調(diào)度器驗證

13.09 容量調(diào)度器配置

13.10 容量調(diào)度器配置

13.11 容量調(diào)度配置測試驗證

13.12 基于標(biāo)簽的調(diào)度器

 

十四、Hadoop壓縮

14.01 hadoop壓縮概念及支持的格式

14.02 hadoop常用幾種壓縮格式對比

14.03 壓縮格式的選擇

14.04 Snappy壓縮配置

14.05 Snappy&Gzip壓縮測試

14.06 Hadoop LZO壓縮安裝配置步驟

14.07 cdh5 lzo壓縮安裝

14.08 lzo安裝問題處理

14.09 lzo壓縮配置及測試

14.10 hive配置使用lzo壓縮

14.11 Hive外部表使用lzo壓縮文件

14.12 Hive使用lzo壓縮實例

14.13 hbase壓縮配置

14.14 hbase壓縮測試

 

十五、Hadoop文件存儲格式

15.01 大數(shù)據(jù)存儲需求及方式

15.02 Hadoop常用文件格式

15.03 HDFS塊內(nèi)三種存儲方式實例

15.04 RCFile的設(shè)計和實現(xiàn)

15.05 ORCFile文件結(jié)構(gòu)

15.06 Hive文件存儲格式的選擇

15.07 Hive不同文件格式數(shù)據(jù)加載測試

15.08 多種文件格式查詢存儲效率測試

15.09 RCFile性能測試

 

十六、Hadoop調(diào)優(yōu)

16.01 調(diào)優(yōu)思路

16.02 應(yīng)用程序優(yōu)化

16.03 Linux系統(tǒng)優(yōu)化

16.04 Hadoop實現(xiàn)機(jī)制調(diào)優(yōu)

16.05 機(jī)架感知策略實現(xiàn)

16.06 Hadoop參數(shù)調(diào)優(yōu)綜述及NameNode調(diào)優(yōu)

16.07 Datanode參數(shù)調(diào)優(yōu)

16.08 集中化緩存管理

16.09 集中緩存架構(gòu)和概念

16.10 緩存管理及緩存池命令

16.11 緩存操作實例

16.12 緩存參數(shù)配置

16.13 YARN調(diào)優(yōu)概述

16.14 Slave和Container資源分配

16.15 配置資源分配和進(jìn)程大小屬性

16.16 YARN內(nèi)存監(jiān)控

16.17 Reducer調(diào)度調(diào)優(yōu)

16.18 Mapreduce其他關(guān)鍵參數(shù)調(diào)優(yōu)

 

 

 

 

 

 

 

 

  目標(biāo)一. 掌握Hadoop2.0動態(tài)增加和刪除節(jié)點的維護(hù)操作

 

  目標(biāo)二. 掌握通過Hadoop2.0 HDFS&YARN HA+Federation技術(shù)來搭建高可用集群的技能

 

  目標(biāo)三. 掌握Hadoop2.0升級操作

 

  目標(biāo)四. 熟悉Hadoop安全管理的知識

 

  目標(biāo)五. 掌握通過搭建本地yum來部署CDH5 Hadoop集群，包括HBase、Hive、Impala、Oozie和Hue等

 

  目標(biāo)六. 掌握Impala、Oozie和Hue的安裝、使用及優(yōu)化等

 

  目標(biāo)七. 掌握基于Kerberos認(rèn)證的Hadoop安全管理的技能

 

  目標(biāo)八. 掌握Hadoop安全授權(quán)管理的技能

 

  目標(biāo)九. 掌握Hadoop性能優(yōu)化的技巧

 

 

  亮點一、Hadoop2.6.0、CDH5.3 等采用的均是目前為止最新的版本，技術(shù)的前沿性可以保證讓您的技術(shù)在二到三年內(nèi)不會落伍.

 

  亮點二、理論與實戰(zhàn)相結(jié)合，由淺入深。即照顧到基礎(chǔ)學(xué)員，又照顧到有一定經(jīng)驗的學(xué)員。

 

  亮點三、課程所有實例都有操作演示，手把手一步步帶領(lǐng)學(xué)員從入門到精通.

 

 

一.課程針對人群

本課程針對掌握一定的Hadoop基礎(chǔ)知識的學(xué)員，想通過本項目的學(xué)習(xí)，深入掌握Hadoop高階運維、管理和調(diào)優(yōu)技巧的學(xué)員。

沒有Hadoop基礎(chǔ)的同學(xué)，可先學(xué)習(xí)如下課程：

《Hadoop大數(shù)據(jù)零基礎(chǔ)高端培訓(xùn)課程》  http://www.ibeifeng.com/hadoop.html

 

 

二.我該怎么學(xué),如何才能學(xué)好這門課程，給些建議

   2.1、時間上的安排建議

      本課程共80講，如果您時間上充分，建議以每天2-3講的進(jìn)度往前學(xué)習(xí)。 

   2.2、學(xué)習(xí)要求

      如果您沒有基礎(chǔ)，建議還是中規(guī)中矩的按照課程進(jìn)度一點一點仔細(xì)觀看學(xué)習(xí)，并一定要把看完的視頻中的代碼自己手敲一遍，以加深理解和記憶

      如果您有基礎(chǔ)，可不必按步就搬進(jìn)行，可以拿你感興趣的部分去學(xué)習(xí)，但一定要注意實踐，并學(xué)會舉一反三 

   2.3、講師建議

      1.最好看完視頻之后，拋開視頻，獨立自己去把上課中的示例寫一遍，看自己是否理解，如果不正確，可以回過頭看再看下視頻，如果反復(fù)，達(dá)到真正理解和

       熟練掌握 的目的。

      2.對于課程實戰(zhàn)部分，一定要自己親自動手做一遍，不要滿足聽完就OK了

      3. 建議一般聽視頻，一般拿個紙和筆，做一些記錄和筆記，這是一種非常好的學(xué)習(xí)習(xí)慣。

      4. 一定不要過于依賴視頻，要學(xué)會看文檔日志和使用百度，學(xué)會思考，學(xué)會舉一反三

      5. 最后祝您學(xué)有所成

 

 

課程是屬于某個特定的專業(yè)技術(shù)，掌握該技術(shù)后，你可以從事以下職位的相關(guān)工作

1.Hadoop運維工程師

2.Hadoop大數(shù)據(jù)架構(gòu)師