摘要:超詳細(xì)集群服務(wù)器安裝配置教程虛擬機(jī)以及系統(tǒng)安裝在之前的兩篇分享中已經(jīng)詳細(xì)的介紹了方法,并且每一步的都配圖了。物理集群三臺(tái)及以上實(shí)體服務(wù)器外網(wǎng)下載模式本地文件模式將安裝包文件直接拷貝到實(shí)體服務(wù)器目錄下,進(jìn)行安裝操作即可。
超詳細(xì)hadoop集群服務(wù)器安裝配置教程
虛擬機(jī)以及Linux系統(tǒng)安裝在之前的兩篇分享中已經(jīng)詳細(xì)的介紹了方法,并且每一步的都配圖了。如果有朋友還是看不懂,那我也愛(ài)莫能助了。本篇主要就hadoop服務(wù)器操作系統(tǒng)配置進(jìn)行詳細(xì)說(shuō)明,hadoop安裝會(huì)在下一篇文章中詳細(xì)的介紹。
hadoop安裝包用的是大快DKHadoop發(fā)行版,個(gè)人覺(jué)得DKHadoop的安裝過(guò)程是比較簡(jiǎn)單,關(guān)于dkhadoop的安裝在下一次的分享中再詳細(xì)介紹吧。下面進(jìn)入到本篇的主題——服務(wù)器操作系統(tǒng)配置教程
一、安裝包準(zhǔn)備
1、虛擬機(jī)分布式安裝(三臺(tái)及以上虛擬機(jī))
若是個(gè)人電腦Windows系統(tǒng)或Linux系統(tǒng),虛擬機(jī)上虛擬的三臺(tái)服務(wù)器,則將安裝包拷貝到服務(wù)器上,進(jìn)行安裝操作即可。
2、物理集群(三臺(tái)及以上實(shí)體服務(wù)器)
1、 外網(wǎng)下載模式
2、 本地文件模式
將安裝包文件直接拷貝到實(shí)體服務(wù)器root目錄下,進(jìn)行安裝操作即可。
3、上傳模式
當(dāng)服務(wù)器在機(jī)房,且無(wú)顯示和輸入設(shè)備的情況下,應(yīng)用該模式。
現(xiàn)將文件,安裝在本地計(jì)算機(jī)上(默認(rèn)為筆記本電腦,在機(jī)房現(xiàn)場(chǎng)),并將計(jì)算機(jī)與服務(wù)器連接,將安裝包install、DKHInstall上傳到服務(wù)器root目錄下。
二、服務(wù)器操作系統(tǒng)配置教程
準(zhǔn)備工作完成之后,就要進(jìn)行服務(wù)器配置操作,首先必須三臺(tái)服務(wù)器之間要互相ping通。所謂ping通,就是兩臺(tái)設(shè)備之間網(wǎng)絡(luò)是通的。從一端發(fā)送一個(gè)數(shù)據(jù)包,另一端就能夠收到,就代表兩臺(tái)設(shè)備是能夠ping通了。
1、修改權(quán)限
目的:使install、DKHInstall兩個(gè)安裝包有可執(zhí)行的權(quán)限。權(quán)限不足無(wú)法執(zhí)行一些操作。install里面是腳本和所有組件,DKHInstall里面是安裝界面。
步驟:在準(zhǔn)備工作中拷貝安裝包 install、DKHInstall到主節(jié)點(diǎn)目錄后,修改文件權(quán)限。首先進(jìn)入root目錄,安裝目錄 install、DKHInstall的權(quán)限改為:文件所有者可讀可寫(xiě)可執(zhí)行,與文件所有者屬于一個(gè)用戶組的其他用戶可讀可執(zhí)行,其他用戶組可讀可執(zhí)行。
命令:
cd /root/
unzip DKHPlantform.zip
chmod -R 755 DKHPlantform
2、 搭建Hadoop集群設(shè)置SSH免密登錄
目的:Hadoop運(yùn)行過(guò)程中需要管理遠(yuǎn)端Hadoop守護(hù)進(jìn)程,在Hadoop啟動(dòng)以后,NameNode是通過(guò)SSH(Secure Shell)來(lái)啟動(dòng)和停止各個(gè)DataNode上的各種守護(hù)進(jìn)程的。這就必須在節(jié)點(diǎn)之間執(zhí)行指令的時(shí)候是不需要輸入密碼的形式,所以我們需要配置SSH運(yùn)用無(wú)密碼公鑰認(rèn)證的形式,這樣NameNode使用SSH無(wú)密碼登錄并啟動(dòng)DataName進(jìn)程,同樣原理,DataNode上也能使用SSH無(wú)密碼登錄到NameNode。
步驟:
(1)修改本機(jī)hosts文件,寫(xiě)入對(duì)應(yīng)關(guān)系
為了區(qū)分局域網(wǎng)內(nèi)的每臺(tái)主機(jī),都會(huì)給主機(jī)配一個(gè)主機(jī)名,每臺(tái)主機(jī)之間又是通過(guò)IP進(jìn)行通信,但I(xiàn)P地址不方便記憶,所以配置主機(jī)名和IP映射能夠?qū)崿F(xiàn)主機(jī)之間的快速方便的訪問(wèn)。
命令:
vi /etc/hosts
通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+: 鍵,輸入wq,后回車(chē)就可以保存。輸入q!后回車(chē)則是放棄保存并退出.
進(jìn)入編輯模式后,按照規(guī)則寫(xiě)入主機(jī)與ip的對(duì)應(yīng)關(guān)系(主機(jī)名稱dk41是自己命名的,如下圖)例:
192.168.1.41 dk41
192.168.1.42 dk42
192.168.1.43 dk43
編輯完后,保存退出。把對(duì)應(yīng)關(guān)系拷到其他兩臺(tái)或多臺(tái)機(jī)器上。
命令:
scp -r /etc/hosts 192.168.1.42:/etc
scp -r /etc/hosts 192.168.1.43:/etc
(2)執(zhí)行集群之間免密前的準(zhǔn)備工作
執(zhí)行sshpass.sh的腳本的時(shí)候會(huì)去讀sshhosts和sshslaves這兩個(gè)文件,替換
修改文件sshhosts,輸入全部機(jī)器的主機(jī)名,每行一個(gè)主機(jī)名(如下圖)
命令:
vi /root/DKHPlantform/autossh/sshhosts
通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq,后回車(chē)就可以保存。輸入q!后回車(chē)則是放棄保存并退出.
修改文件sshslaves,寫(xiě)入除主機(jī)名之外的所有機(jī)器名(如下圖)
命令:
vi /root/DKHPlantform/autossh/sshslaves
通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq,后回車(chē)就可以保存。輸入q!后回車(chē)則是放棄保存并退出.
(3)執(zhí)行集群免密工作
命令:
cd /root/DKHPlantform/autossh
./autossh 主節(jié)點(diǎn)主機(jī)名 集群密碼
例: ./autossh dk41 123456
(4)關(guān)閉防火墻
防止訪問(wèn)服務(wù)器時(shí)某些服務(wù)被攔截,需關(guān)閉防火墻。
命令:
cd /root/DKHPlantform/autossh
./offIptables.sh
3、 安裝雙機(jī)熱備份的MySQL
目的:存放Hive的元數(shù)據(jù)
步驟:
(1)從主節(jié)點(diǎn)分發(fā)mySQL安裝目錄到第二節(jié)點(diǎn)
命令:
scp -r /root/DKHPlantform/mysqlInst/ 192.168.1.42:/root/
(2)主節(jié)點(diǎn)執(zhí)行:
命令:
cd /root/DKHPlantform/mysqlInst/
./mysql.sh 1
從節(jié)點(diǎn)執(zhí)行:
命令:
cd /root/mysqlInst/
./mysql.sh 2
(3)執(zhí)行成功之后執(zhí)行熱備份(兩臺(tái)機(jī)器上都要執(zhí)行,兩個(gè)ip互換,41上寫(xiě)42,42上寫(xiě)41,密碼是MySQL的密碼為:123456。平臺(tái)內(nèi)已經(jīng)設(shè)定好,請(qǐng)勿修改):
命令:
source /etc/profile
./sync.sh 192.168.1.xxx(另一臺(tái)mysql地址)
4、 創(chuàng)建數(shù)據(jù)庫(kù)
目的:MySQL是一種關(guān)聯(lián)數(shù)據(jù)庫(kù)管理系統(tǒng),關(guān)聯(lián)數(shù)據(jù)庫(kù)將數(shù)據(jù)保存在不同的表中,增加了速度并提高了靈活性。
步驟:
(1)導(dǎo)入MySQL數(shù)據(jù)表,只在主節(jié)點(diǎn)執(zhí)行:
命令:
mysql -uroot -p123456 < { 此處為sql文件,主目錄下文件: dkh.sql}
如:mysql -uroot -p123456 (2)執(zhí)行完后查看一下兩臺(tái)mysql的數(shù)據(jù)表是否存在,從主節(jié)點(diǎn)中查看執(zhí)行:
命令:
mySQL -uroot -p123456
show databases;
use dkh;
show tables;
5、啟動(dòng)安裝
目的:服務(wù)器配置操作完成之后,啟動(dòng)DKH。
步驟:執(zhí)行以下命令。
命令:
cd /root/DKHPlantform/dkh-tomcat*/bin/
./startup.sh
6、本地時(shí)間服務(wù)器搭建步驟
沒(méi)聯(lián)網(wǎng)或者裝系統(tǒng)時(shí)時(shí)間未同步,需要搭建本地時(shí)間服務(wù)器。
(1)搭建內(nèi)網(wǎng)的ntp服務(wù)器
修改/etc/ntp.conf
命令:
Vim /etc/ntp.conf
通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq后回車(chē)就可以保存。輸入q!后回車(chē)則是放棄保存并退出.
修改下列三行:
在文件最后添加下列兩行:
server 127.127.1.0
fudge 127.127.1.0 stratum 10
(2)啟動(dòng)ntp服務(wù)
service ntpd start
(3)開(kāi)機(jī)自動(dòng)啟動(dòng)
chkconfig ntpd on
(4)客戶端同步時(shí)間
命令:
Vim /etc/ntp.conf
通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq,后回車(chē)就可以保存。輸入q!后回車(chē)則是放棄保存并退出.
在文件最后添加一行:
/15 * root ntpdate 192.168.27.35;hwclock -w
文章版權(quán)歸作者所有,未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請(qǐng)注明本文地址:http://www.ezyhdfw.cn/yun/71887.html
摘要:新手篇入門(mén)基礎(chǔ)教程關(guān)于的分享此前一直都是零零散散的想到什么就寫(xiě)什么,整體寫(xiě)的比較亂吧。上兩周寫(xiě)的五篇內(nèi)容,匯總到一起就算是新手入門(mén)的一個(gè)基礎(chǔ)性教程吧持續(xù)更新中。應(yīng)該在改版完成后就可以正常申請(qǐng)下載了。 Hadoop新手篇:hadoop入門(mén)基礎(chǔ)教程關(guān)于hadoop的分享此前一直都是零零散散的想到什么就寫(xiě)什么,整體寫(xiě)的比較亂吧。最近可能還算好的吧,畢竟花了兩周的時(shí)間詳細(xì)的寫(xiě)完的了hadoop...
摘要:超詳細(xì)虛擬機(jī)安裝圖文教程前兩天看到有人留言問(wèn)在什么情況下需要部署,我給的回答也很簡(jiǎn)單,就是在需要處理海量數(shù)據(jù)的時(shí)候才需要考慮部署。圖圖為虛擬機(jī)命名,如下圖,命名按照自己喜歡即可,點(diǎn)擊下一步進(jìn)行處理器配置。 超詳細(xì)Dkhadoop虛擬機(jī)安裝圖文教程前兩天看到有人留言問(wèn)在什么情況下需要部署hadoop,我給的回答也很簡(jiǎn)單,就是在需要處理海量數(shù)據(jù)的時(shí)候才需要考慮部署hadoop。關(guān)于這個(gè)問(wèn)題...
摘要:實(shí)用貼系統(tǒng)下載安裝教程在前幾篇的文章中分別就虛擬系統(tǒng)安裝系統(tǒng)安裝以及運(yùn)行服務(wù)器的設(shè)置等內(nèi)容寫(xiě)了詳細(xì)的操作教程,本篇分享的是的下載安裝步驟。我讓他們?nèi)ハ螺d安裝試一下,至于后來(lái)試沒(méi)試就不得而知了。 實(shí)用貼:hadoop系統(tǒng)下載安裝教程在前幾篇的文章中分別就虛擬系統(tǒng)安裝、LINUX系統(tǒng)安裝以及hadoop運(yùn)行服務(wù)器的設(shè)置等內(nèi)容寫(xiě)了詳細(xì)的操作教程,本篇分享的是hadoop的下載安裝步驟。在此之...
閱讀 3672·2023-04-26 01:43
閱讀 3043·2021-10-14 09:42
閱讀 5724·2021-09-30 09:59
閱讀 2229·2021-09-04 16:40
閱讀 1274·2019-08-30 15:52
閱讀 895·2019-08-29 17:09
閱讀 2099·2019-08-26 13:37
閱讀 3591·2019-08-26 10:20