摘要:不論是還是,都是某種意義上為集群設(shè)計的操作系統(tǒng),讓用戶像使用一臺單機(jī)一樣來使用整個集群。例如的就是用來在管理的集群上進(jìn)行任務(wù)調(diào)度,已經(jīng)成為了的孵化器項目。
【編者的話】不論是 YARN、Mesos 還是 Omega,都是某種意義上為集群設(shè)計的操作系統(tǒng),讓用戶像使用一臺單機(jī)一樣來使用整個集群。向下集中管理所有物理資源,向上承載各種集群化的應(yīng)用; 同時, docker 的出現(xiàn)也為云操作系統(tǒng)提供了更有力的支撐。
1984年,SUN 的 John Gage 說出了那句家喻戶曉的名言 “網(wǎng)絡(luò)就是計算機(jī)”
三十年后,Gage 的夢想“幾乎”成為的現(xiàn)實。特別是隨著 web 2.0 和云計算時代的到來,人們可以使用任何設(shè)備從任何地方通過互聯(lián)網(wǎng)訪問任何云端的資源。
不過即使在“云端”,實際上還是一堆物理服務(wù)器。每一臺服務(wù)器的 CPU 和內(nèi)存資源都是有限的,但是組合成集群就像云一樣無窮無盡。套用 Gage 的名言,可以說“集群就是計算機(jī)”。
當(dāng)單機(jī)的 CPU 性能和硬盤容量逐漸碰到了天花板,通過 Hadoop 這樣的集群化技術(shù)來突破單機(jī)性能瓶頸就越來越流行。當(dāng)然在 Hadoop 出現(xiàn)之前,集群方案早就應(yīng)用于高性能的生產(chǎn)系統(tǒng),例如 Weblogic 或者集群化的 WEB 服務(wù)器(復(fù)雜均衡按照 round-robin 算法將流量發(fā)送到集群中的 Web 服務(wù)器上)。這些集群方案都針對特定場景設(shè)計,無法像通用的計算機(jī)一樣用來運行各種不同的軟件。
Hadoop 是第一個具有通用的集群化計算平臺特征的技術(shù),而且目前已經(jīng)發(fā)展地相當(dāng)成熟。隨著新的集群化計算技術(shù)層出不窮,例如 Spark、Storm 和 Cassandra,運維人員希望能夠隔離它們以便更好的管理,同時,從節(jié)約成本的角度講, 大家又希望公司內(nèi)部各個團(tuán)隊能夠共用這些昂貴的計算資源。
目前解決這個問題的兩大法寶是 Hadoop YARN 和 Apache Mesos。Mesos 的設(shè)計受到了 Google 的 Omega 平臺啟發(fā),而后者則來自 Google 內(nèi)部久經(jīng)考驗的Borg任務(wù)管理平臺。同樣的事情當(dāng)初也發(fā)聲在 Hadoop 之上,它就是受到了 Google 的 GFS 和 Big-Table 啟發(fā)。不論是 YARN、Mesos 還是 Omega,都是某種意義上為集群設(shè)計的操作系統(tǒng),讓用戶像使用一臺單機(jī)一樣來使用整個集群。向下集中管理所有物理資源,向上承載各種集群化的應(yīng)用。
因為 YARN 本身與 Hadoop/Map Reduce v2 綁定,對于使用早期 Hadoop 版本的開發(fā)者,升級到 YARN 也許是一個比較容易的決定。理論上可以將 YARN 跑在 Mesos 上,不過有些人擔(dān)心隨之而來的兩層資源分配問題。
Mesos 可以支持大量的框架(插件),逐步在構(gòu)建一個快速增長的生態(tài)環(huán)境。例如 Twitter的 Aurora 就是用來在 Mesos 管理的集群上進(jìn)行任務(wù)調(diào)度,已經(jīng)成為了 Apache 的孵化器項目。此外 Ringmaster 則用來在 Mesos 上快速運行 Cassandra 和 Spark。
Chronos 相當(dāng)于 Mesos 之上的 crontable,Marathon 則相當(dāng)于 init.d,讓大家用熟悉的方式來調(diào)度任務(wù)。
最激動人心的還是 Docker 與 mesos 的整合,幾乎讓 Mesos 可以運行任何語言編寫的軟件。
Docker 的崛起本身和集群技術(shù)倒沒有直接關(guān)系,它首先被用來代替?zhèn)鹘y(tǒng)的 VM(虛擬機(jī))。容器分享了底層操作系統(tǒng),遠(yuǎn)比傳統(tǒng) VM 更加輕量。類似技術(shù)在2000年就出現(xiàn)了,那就是“jail”命令。Wiki 有關(guān)詞條描述了 35 年來 chroot 如何發(fā)展到 jails,最后的 Docker 和容器成為了集大成者。
Docker 化的應(yīng)用像一個 tar 壓縮包,在一臺普通的物理機(jī)上,你可以輕松地運行數(shù)十個獨立的 Docker。對于一個由 Mesos 管理的集群,而且恰好你的應(yīng)用某種程度上使用了分布式的架構(gòu),那么瞬間你的集群變成了一臺強(qiáng)大的大型機(jī)。其實 tar 本身意思是 “tape archive”,就是過去大型機(jī)磁帶系統(tǒng)的文件格式。
使用 Docker 容器來完全取代傳統(tǒng)的 jar 或者 ear 文件,一夜間用 Mesos 來完全取代 weblogic,還是有點操之過急——目前傳統(tǒng)軟件的架構(gòu)依然是 web、計算邏輯和存儲分開部署。不過對于互聯(lián)網(wǎng)公司的后臺,用 Mesos 來承載 web 服務(wù)器集群應(yīng)付高并發(fā)業(yè)務(wù),完全不是什么新鮮事兒了。
點擊查看英文原文
原文作者:michaelmalak
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址:http://www.ezyhdfw.cn/yun/26494.html
摘要:應(yīng)用被綁定到虛擬機(jī)或者容器并且成為主要的管理元素。采用的方法是他們正在使用的一系列實現(xiàn)容器自動化的工具,和。,使用相同的作為標(biāo)準(zhǔn)引擎實例,被設(shè)計用來提供容器可擴(kuò)展的環(huán)境。 歡迎來到后硬件時代。在這個時代我們把容器或者是虛擬機(jī)遷移到我們需要的地方,而不需要考慮容器或者虛擬機(jī)。這里我們介紹一些新的Docker工具來做這份工作。 構(gòu)建下一代應(yīng)用是一回事,管理和運行它們是另一回事。 showI...
摘要:而用戶能在同一平臺上管理任何集群,輕松地充分利用的強(qiáng)大能力及其迅速壯大的生態(tài)系統(tǒng)。在本指南中,你將會了解如何快速上手。環(huán)境中的所有主機(jī)必須允許彼此間的流量能夠進(jìn)行跨主機(jī)聯(lián)網(wǎng)。這一過程需要幾分鐘完成。如果服務(wù)正常,將會顯示狀態(tài)為綠色。 大家好,給大家介紹一下,這是幫助大家率先上手嘗試Rancher 2.0的神器 @Rancher 2.0快速上手指南 內(nèi)容導(dǎo)讀 準(zhǔn)備一臺Linux主機(jī) 啟...
摘要:而用戶能在同一平臺上管理任何集群,輕松地充分利用的強(qiáng)大能力及其迅速壯大的生態(tài)系統(tǒng)。在本指南中,你將會了解如何快速上手。環(huán)境中的所有主機(jī)必須允許彼此間的流量能夠進(jìn)行跨主機(jī)聯(lián)網(wǎng)。這一過程需要幾分鐘完成。如果服務(wù)正常,將會顯示狀態(tài)為綠色。 大家好,給大家介紹一下,這是幫助大家率先上手嘗試Rancher 2.0的神器 @Rancher 2.0快速上手指南 內(nèi)容導(dǎo)讀 準(zhǔn)備一臺Linux主機(jī) 啟...
摘要:服務(wù)器與虛擬主機(jī)有什么區(qū)別服務(wù)器和空虛擬主機(jī)的區(qū)別在于以下幾點一服務(wù)器,也稱伺服器,是提供計算服務(wù)的設(shè)備,通常指硬件。虛擬主機(jī)是使用特殊的軟硬件技術(shù),把一臺真實的物理服務(wù)器主機(jī)分割成多個邏輯存儲單元。請問一下,服務(wù)器、云服務(wù)器和虛擬主機(jī)有什么區(qū)別?1、服務(wù)器:相當(dāng)于你獨自擁有的一臺電腦,所有的操作權(quán)限你都有。維護(hù)成本高,費用高,穩(wěn)定性最好。需要有自己的機(jī)房,類似華為、浪潮等服務(wù)器集群。2、云...
摘要:服務(wù)器與虛擬主機(jī)有什么區(qū)別服務(wù)器和空虛擬主機(jī)的區(qū)別在于以下幾點一服務(wù)器,也稱伺服器,是提供計算服務(wù)的設(shè)備,通常指硬件。虛擬主機(jī)是使用特殊的軟硬件技術(shù),把一臺真實的物理服務(wù)器主機(jī)分割成多個邏輯存儲單元。服務(wù)器與虛擬主機(jī)有什么區(qū)別?服務(wù)器和空虛擬主機(jī)的區(qū)別在于以下幾點:一、服務(wù)器,也稱伺服器,是提供計算服務(wù)的設(shè)備,通常指硬件。而虛擬主機(jī)是指在網(wǎng)絡(luò)服務(wù)器上分出一定的磁盤空間,用戶可以租用此部分空間...
閱讀 2531·2021-11-12 10:34
閱讀 1527·2019-08-29 16:15
閱讀 2745·2019-08-29 15:17
閱讀 1451·2019-08-23 17:09
閱讀 439·2019-08-23 11:37
閱讀 2512·2019-08-23 10:39
閱讀 549·2019-08-22 16:43
閱讀 3173·2019-08-22 14:53