千鋒教育-做有情懷、有良心、有品質(zhì)的職業(yè)教育機構(gòu)

手機站
千鋒教育

千鋒學(xué)習(xí)站 | 隨時隨地免費學(xué)

千鋒教育

掃一掃進入千鋒手機站

領(lǐng)取全套視頻
千鋒教育

關(guān)注千鋒學(xué)習(xí)站小程序
隨時隨地免費學(xué)習(xí)課程

當(dāng)前位置:首頁  >  應(yīng)聘面試  >  大數(shù)據(jù)面試題  > 大數(shù)據(jù)面試題:yarn的基礎(chǔ)詳解

大數(shù)據(jù)面試題:yarn的基礎(chǔ)詳解

來源:千鋒教育
發(fā)布人:syq
時間: 2022-06-20 17:38:00 1655717880

  1.hadoop 1.x

  JobTracker,TaskTracker

  缺點:JobTracker負載過重,存在單點故障;與MapReduce強耦合,其他計算框架需要重復(fù)實現(xiàn)資源管理;

  2.hadoop 2.x

  App Mstr (Application Master進程)

  3.工作流程

  如架構(gòu)圖所示,大致的工作流程如下:

圖片1

圖片2 

  用戶使用客戶端向 RM 提交一個任務(wù),同時指定提交到哪個隊列和需要多少資源。用戶可以通過每個計算引擎的對應(yīng)參數(shù)設(shè)置,如果沒有特別指定,則使用默認設(shè)置。

  RM 在收到任務(wù)提交的請求后,先根據(jù)資源和隊列是否滿足要求選擇一個 NM,通知它啟動一個特殊的 container,稱為 Application Master(App Mstr,AM),后續(xù)流程由它發(fā)起。

  AM 向 RM 注冊后根據(jù)自己任務(wù)的需要,向 RM 申請 container,包括數(shù)量、所需資源量、所在位置等因素。

  如果隊列有足夠資源,RM 會將 container 分配給有足夠剩余資源的 NM,由 AM 通知 NM 啟動 container。

  container 啟動后執(zhí)行具體的任務(wù),處理分給自己的數(shù)據(jù)。NM 除了負責(zé)啟動 container,還負責(zé)監(jiān)控它的資源使用狀況以及是否失敗退出等工作,如果 container 實際使用的內(nèi)存超過申請時指定的內(nèi)存,會將其殺死,保證其他 container 能正常運行。

  各個 container 向 AM 匯報自己的進度,都完成后,AM 向 RM 注銷任務(wù)并退出,RM 通知 NM 殺死對應(yīng)的 container,任務(wù)結(jié)束。

  更多關(guān)于“大數(shù)據(jù)培訓(xùn)”的問題,歡迎咨詢千鋒教育在線名師。千鋒教育多年辦學(xué),課程大綱緊跟企業(yè)需求,更科學(xué)更嚴(yán)謹(jǐn),每年培養(yǎng)泛IT人才近2萬人。不論你是零基礎(chǔ)還是想提升,都可以找到適合的班型,千鋒教育隨時歡迎你來試聽。

tags:
聲明:本站稿件版權(quán)均屬千鋒教育所有,未經(jīng)許可不得擅自轉(zhuǎn)載。
10年以上業(yè)內(nèi)強師集結(jié),手把手帶你蛻變精英
請您保持通訊暢通,專屬學(xué)習(xí)老師24小時內(nèi)將與您1V1溝通
免費領(lǐng)取
今日已有369人領(lǐng)取成功
劉同學(xué) 138****2860 剛剛成功領(lǐng)取
王同學(xué) 131****2015 剛剛成功領(lǐng)取
張同學(xué) 133****4652 剛剛成功領(lǐng)取
李同學(xué) 135****8607 剛剛成功領(lǐng)取
楊同學(xué) 132****5667 剛剛成功領(lǐng)取
岳同學(xué) 134****6652 剛剛成功領(lǐng)取
梁同學(xué) 157****2950 剛剛成功領(lǐng)取
劉同學(xué) 189****1015 剛剛成功領(lǐng)取
張同學(xué) 155****4678 剛剛成功領(lǐng)取
鄒同學(xué) 139****2907 剛剛成功領(lǐng)取
董同學(xué) 138****2867 剛剛成功領(lǐng)取
周同學(xué) 136****3602 剛剛成功領(lǐng)取
相關(guān)推薦HOT
快速通道