使用hadoop版本是DKH標(biāo)準(zhǔn)三節(jié)點(diǎn)發(fā)行版，DKHadoop版本的易用性比較好，環(huán)境部署要簡(jiǎn)單的多，參考此篇安裝前請(qǐng)先下載DKHadoop版本，網(wǎng)盤(pán)鏈接：https://pan.baidu.com/s/1-427Sh7lTLrLAPh7KMOYVg  提取碼：vg2w

成都創(chuàng)新互聯(lián)公司服務(wù)項(xiàng)目包括揚(yáng)中網(wǎng)站建設(shè)、揚(yáng)中網(wǎng)站制作、揚(yáng)中網(wǎng)頁(yè)制作以及揚(yáng)中網(wǎng)絡(luò)營(yíng)銷(xiāo)策劃等。多年來(lái)，我們專(zhuān)注于互聯(lián)網(wǎng)行業(yè)，利用自身積累的技術(shù)優(yōu)勢(shì)、行業(yè)經(jīng)驗(yàn)、深度合作伙伴關(guān)系等，向廣大中小型企業(yè)、政府機(jī)構(gòu)等提供互聯(lián)網(wǎng)行業(yè)的解決方案，揚(yáng)中網(wǎng)站推廣取得了明顯的社會(huì)效益與經(jīng)濟(jì)效益。目前，我們服務(wù)的客戶(hù)以成都為中心已經(jīng)輻射到揚(yáng)中省份的部分城市，未來(lái)相信會(huì)繼續(xù)擴(kuò)大服務(wù)區(qū)域并繼續(xù)獲得客戶(hù)的支持與信任！

第一部分：準(zhǔn)備工作

1、 大數(shù)據(jù)平臺(tái)所需配置：

(1) 系統(tǒng)：CentOS 6.5 64位（需默認(rèn)安裝Desktop）

(2) CPU ：intel E3及以上。

(3) 內(nèi)存：建議最小8G,用圖計(jì)算建議32G,推薦128G。

(4) 硬盤(pán)：256G以上,推薦使用固態(tài)硬盤(pán)。

(5) 系統(tǒng)分區(qū)要求： 如無(wú)特殊需求，除swap分區(qū)外，可將剩余空間全部分配到/（根）分區(qū)

(6) 網(wǎng)絡(luò)要求：如無(wú)特殊情況，盡量可以接入外網(wǎng)。

(7) 至少三臺(tái)服務(wù)器（三臺(tái)服務(wù)器名字任意起，密碼須一致）。

  （8）安裝使用root用戶(hù)作為默認(rèn)用戶(hù)

2、 遠(yuǎn)程上傳和遠(yuǎn)程連接工具：

（1） 若直接使用個(gè)人PC開(kāi)啟的虛擬機(jī)作為服務(wù)器的基礎(chǔ)，直接拷貝到虛擬機(jī)下即可。

（2） 若是使用機(jī)房服務(wù)器作平臺(tái)搭建的服務(wù)器，如若不能直接接觸到服務(wù)器，則需要使用遠(yuǎn)程工具連接并發(fā)送安裝包

第二部分：服務(wù)器操作系統(tǒng)配置

1.修改權(quán)限

步驟：在準(zhǔn)備工作中拷貝安裝包DKHPlantform.zip到主節(jié)點(diǎn)/root/目錄后，解壓并修改文件權(quán)限（文件所有者可讀可寫(xiě)可執(zhí)行，與文件所有者屬于一個(gè)用戶(hù)組的其他用戶(hù)可讀可執(zhí)行，其他用戶(hù)組可讀可執(zhí)行）。

命令：

cd /root/

unzip DKHPlantform.zip

chmod -R 755DKHPlantform

2. 搭建hadoop集群設(shè)置SSH免密登錄

步驟：

修改主機(jī)名 vi /etc/sysconfig/network  reboot

（1）修改本機(jī)hosts文件，寫(xiě)入對(duì)應(yīng)關(guān)系

命令：

vi /etc/hosts

通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式，編輯完成后按一下Esc鍵然后按一下按Shift+：鍵，輸入wq 后回車(chē)就可以保存。輸入q！后回車(chē)則是放棄保存并退出.

進(jìn)入編輯模式后，按照規(guī)則寫(xiě)入主機(jī)與ip的對(duì)應(yīng)關(guān)系（主機(jī)名稱(chēng)dk41是自己命名的，如下圖）例：

    192.168.1.41    dk41

192.168.1.42    dk42

192.168.1.43    dk43

編輯完后，保存退出。把對(duì)應(yīng)關(guān)系拷到其他兩臺(tái)機(jī)器上。

命令：

scp  -r  /etc/hosts  192.168.1.42:/etc

scp  -r  /etc/hosts  192.168.1.43:/etc

（2）執(zhí)行集群之間免密前的準(zhǔn)備工作

a)執(zhí)行sshpass.sh的腳本的時(shí)候會(huì)去讀sshhosts和sshslaves這兩個(gè)文件，替換sshpass.sh中的master和slave文件。              

修改文件sshhosts，輸入全部機(jī)器的主機(jī)名，每行一個(gè)主機(jī)名（如下圖）

命令：

vi/root/DKHPlantform/autossh/sshhosts

通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式，編輯完成后按一下Esc鍵然后按一下按Shift+：鍵，輸入wq，后回車(chē)就可以保存。輸入q！后回車(chē)則是放棄保存并退出.

修改文件sshslaves，寫(xiě)入除主機(jī)名之外的所有機(jī)器名（如下圖）

命令：

vi/root/DKHPlantform/autossh/sshslaves

通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式，編輯完成后按一下Esc鍵然后按一下按Shift+：鍵，輸入wq，后回車(chē)就可以保存。輸入q！后回車(chē)則是放棄保存并退出.

b）執(zhí)行insExpect.sh，系統(tǒng)會(huì)裝兩個(gè)rpm包，在執(zhí)行sshpass.sh的過(guò)程中無(wú)需再輸密碼和yes，腳本自動(dòng)繼續(xù)執(zhí)行。

命令：

cd /root/DKHPlantform/autossh

./insExpect.sh

按照提示多次輸入yes和密碼(如下圖)

c)執(zhí)行changeMaster.sh腳本為了清空/root/.ssh目錄下的所有文件(在/root/DKHPlantform/autossh目錄下)，避免在執(zhí)行sshpass.sh腳本時(shí)產(chǎn)生的新密鑰時(shí)與舊的密鑰發(fā)生沖突。

命令：

./changeMaster.sh

按照提示輸入（如下圖）

（3）執(zhí)行集群免密（SSH）

a)執(zhí)行SSH:

命令：

cd /root/

./sshpass.sh密碼

123456為集群密碼，根據(jù)自己實(shí)際情況輸入。

b)防止訪問(wèn)服務(wù)器時(shí)某些服務(wù)被攔截,需關(guān)閉防火墻。

命令：

cd/root/DKHPlantform/autossh

./offIptables.sh

3.安裝雙機(jī)熱備份的MySQL

目的：存放Hive的元數(shù)據(jù)

步驟：

（1）從主節(jié)點(diǎn)分發(fā)mysql安裝目錄到第二節(jié)點(diǎn)

命令：

scp -r /root/DKHPlantform/mysqlInst/ 192.168.1.42:/root/

（2）主節(jié)點(diǎn)執(zhí)行：

命令：

cd /root/DKHPlantform/mysqlInst/

./mysql.sh 1

ssh前往第二臺(tái)機(jī)器（從節(jié)點(diǎn)）并執(zhí)行:

命令：

cd/root/mysqlInst/

./mysql.sh 2

（3）執(zhí)行成功之后執(zhí)行熱備份（兩臺(tái)機(jī)器上都要執(zhí)行，兩個(gè)ip互換,41上寫(xiě)42,42上寫(xiě)41,密碼是Mysql的密碼為：123456。平臺(tái)內(nèi)已經(jīng)設(shè)定好，請(qǐng)勿修改）：

命令：

source /etc/profile

./sync.sh 192.168.1.xxx(另一臺(tái)mysql地址) root 123456

4.創(chuàng)建數(shù)據(jù)庫(kù)

步驟：

（1）導(dǎo)入MySQL數(shù)據(jù)表，只在主節(jié)點(diǎn)執(zhí)行：

命令：

mysql -uroot -p123456 < { 此處為sql文件,主目錄下文件： dkh.sql}

如：mysql -uroot -p123456 </root/DKHPlantform/dkh.sql

（2）執(zhí)行完后查看一下兩臺(tái)mysql的數(shù)據(jù)表是否存在,從節(jié)點(diǎn)查看執(zhí)行：

命令：

mysql  -uroot  -p123456
show databases;

第三部分：DKH系統(tǒng)安裝

（1）啟動(dòng)安裝

步驟：執(zhí)行以下命令。

命令：

cd /root/DKHPlantform/dkh-tomcat-7.0.56/bin/

./startup.sh

（2）登錄

啟動(dòng)成功后瀏覽器鍵入主節(jié)點(diǎn)ip

登陸默認(rèn)用戶(hù)名和密碼:

Username:admin

Password:123456

后續(xù)根據(jù)提示安裝

（3）組件安裝路徑

建議采用默認(rèn)安裝路徑，即/opt/dkh/，注意千萬(wàn)不要放/root/，不然impala等組件的安裝可能出現(xiàn)問(wèn)題

第四部分：常見(jiàn)問(wèn)題解決方法

1、當(dāng)hdfs的zkfc出現(xiàn)如下問(wèn)題時(shí)，可嘗試以下方法：

(1) 先格式化hadoopzk:hdfs zkfc -formatZK

(2) 啟動(dòng)zk，sbin下:  ./hadoop-daemon.sh start zkfc

(3) 設(shè)定失敗轉(zhuǎn)移的namenode: hdfs haadmin -failover nn1 nn2

2、當(dāng)hue頁(yè)面打不開(kāi)，顯示如下內(nèi)容時(shí)，說(shuō)明沒(méi)有創(chuàng)建hue數(shù)據(jù)庫(kù)，可在主節(jié)點(diǎn)執(zhí)行此文件，根據(jù)提示輸入Y即可

3、當(dāng)hue頁(yè)面打不開(kāi)，顯示如下內(nèi)容時(shí)，可執(zhí)行如下命令解決：

# cd /opt/dkh/hue-3.12.0/build/env/bin

# ./hue syncdb        之后輸入no

    # ./hue migrate

4、Essql頁(yè)面打不開(kāi)，顯示如下內(nèi)容時(shí)，可通過(guò)以下方式解決

(1) 主節(jié)點(diǎn)運(yùn)行命令：source /etc/profile，后重啟Tomcat（注意使用shutdown命令之后，若還存在相關(guān)進(jìn)程，需手動(dòng)kill掉）適用于環(huán)境變量不生效的情況，比如，Java的版本識(shí)別的是1.7，而不是1.8；hdfs相關(guān)命令不識(shí)別等。

(2) 重啟Tomcat，注意使用shutdown命令之后，若還存在相關(guān)進(jìn)程，需手動(dòng)kill掉適用于啟動(dòng)了多個(gè)Tomcat進(jìn)程的情況。

另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)cdcxhl.cn，海內(nèi)外云服務(wù)器15元起步，三天無(wú)理由+7*72小時(shí)售后在線，公司持有idc許可證，提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性?xún)r(jià)比高”等特點(diǎn)與優(yōu)勢(shì)，專(zhuān)為企業(yè)上云打造定制，能夠滿足用戶(hù)豐富、多元化的應(yīng)用場(chǎng)景需求。

本文名稱(chēng)：hadoop入門(mén)學(xué)習(xí)教程--DKHadoop完整安裝步驟-創(chuàng)新互聯(lián)
文章源于：http://www.chinadenli.net/article16/dcepdg.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供微信小程序、用戶(hù)體驗(yàn)、ChatGPT、App開(kāi)發(fā)、外貿(mào)建站、動(dòng)態(tài)網(wǎng)站

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)