千鋒教育-做有情懷、有良心、有品質(zhì)的職業(yè)教育機(jī)構(gòu)

手機(jī)站
千鋒教育

千鋒學(xué)習(xí)站 | 隨時隨地免費學(xué)

千鋒教育

掃一掃進(jìn)入千鋒手機(jī)站

領(lǐng)取全套視頻
千鋒教育

關(guān)注千鋒學(xué)習(xí)站小程序
隨時隨地免費學(xué)習(xí)課程

當(dāng)前位置:首頁  >  技術(shù)干貨  > HBase系列常見面試題匯總---HBase建表優(yōu)化

HBase系列常見面試題匯總---HBase建表優(yōu)化

來源:千鋒教育
發(fā)布人:syq
時間: 2022-08-12 10:48:58 1660272538

  BloomFilter

  * 默認(rèn)值為 NONE,布隆過濾器的作用是可以過濾掉大部分不存在目標(biāo)查詢值的 HFile(即略去不必要的磁盤掃描),可以有助于降低讀取延遲。 配置方式: create 'table',{BLOOMFILTER =>'ROW |ROWCOL'} * ROW,表示對 Rowkey 進(jìn)行布隆過濾,Rowkey 的哈希值在每次寫入行時會被添加到布隆過濾器中,在讀的時候就會通過布隆過濾器過濾掉大部分無效目標(biāo)。 * ROWCOL 表示行鍵 + 列簇 + 列的哈希將在每次插入行時添加到布隆。

HBase建表優(yōu)化

  Versions

  * 默認(rèn)值為 1 ,我們知道 HBase 是一個多版本共存的數(shù)據(jù)庫,多次寫入相同的 rowkey + cf + col 則會產(chǎn)生多個版本的數(shù)據(jù),在有些場景下多版本數(shù)據(jù)是有用的,需要把寫入的數(shù)據(jù)做一個對比或者其他操作;但是如果我們不想保留那么多數(shù)據(jù),只是想要覆蓋原有值,那么將此參數(shù)設(shè)為 1 能節(jié)約 2/3 的空間。所以第一步搞清楚你的需求,是否需要多版本共存。 * 配置方式 create 'table',{VERSIONS=>'2'}

  Compression

  * 默認(rèn)值為 NONE ,常用的壓縮方式是 Snappy 和 LZO,它們的特點是用于熱數(shù)據(jù)壓縮,占用 CPU 少,解壓/壓縮速度較其他壓縮方式快,但是壓縮率較低。Snappy 與 LZO 相比,Snappy 整體性能優(yōu)于 LZO,解壓/壓縮速度更快,但是壓縮率稍低。各種壓縮各有不同的特點,需要根據(jù)需求作出選擇。 * create 'table',{NAME=>'info',COMPRESSION=>'snappy'}

  HBase 預(yù)分區(qū)

  默認(rèn)情況下,在創(chuàng)建 HBase 表的時候會自動創(chuàng)建一個 Region 分區(qū),當(dāng)導(dǎo)入數(shù)據(jù)的時候, 所有的 HBase 客戶端都向這一個 Region 寫數(shù)據(jù),直到這個 Region 足夠大了才進(jìn)行切分。這樣的局限是很容易造成數(shù)據(jù)傾斜,影響讀寫效率。預(yù)分區(qū)是一種比較好的解決這些問題的方案,即預(yù)先創(chuàng)建一些空的 Regions,定義好每個 Region 存儲的數(shù)據(jù)的范圍,這樣可以有效避免數(shù)據(jù)傾斜問題,多個 Region 同時工作,使得可以在集群內(nèi)做數(shù)據(jù)的負(fù)載均衡。

  * 指定 rowkey 分割的點 create 'table1','f1',SPLITS => ['\x10\x00', '\x20\x00', '\x30\x00', '\x40\x00'] * rowkey 前綴完全隨機(jī) create 'table2','f1', { NUMREGIONS => 8 , SPLITALGO => 'UniformSplit' } * rowkey 是十六進(jìn)制的字符串作為前綴的 create 'table3','f1', { NUMREGIONS => 10, SPLITALGO => 'HexStringSplit' } 其中,NUMREGIONS 為 region 的個數(shù),一般按每個 egion 10GB 左右來計算 Region 數(shù)量,集群規(guī)模大,Region 數(shù)量可以適當(dāng)取大一些。

  更多關(guān)于“大數(shù)據(jù)培訓(xùn)”的問題,歡迎咨詢千鋒教育在線名師。千鋒教育多年辦學(xué),課程大綱緊跟企業(yè)需求,更科學(xué)更嚴(yán)謹(jǐn),每年培養(yǎng)泛IT人才近2萬人。不論你是零基礎(chǔ)還是想提升,都可以找到適合的班型,千鋒教育隨時歡迎你來試聽。

tags:
聲明:本站稿件版權(quán)均屬千鋒教育所有,未經(jīng)許可不得擅自轉(zhuǎn)載。
10年以上業(yè)內(nèi)強師集結(jié),手把手帶你蛻變精英
請您保持通訊暢通,專屬學(xué)習(xí)老師24小時內(nèi)將與您1V1溝通
免費領(lǐng)取
今日已有369人領(lǐng)取成功
劉同學(xué) 138****2860 剛剛成功領(lǐng)取
王同學(xué) 131****2015 剛剛成功領(lǐng)取
張同學(xué) 133****4652 剛剛成功領(lǐng)取
李同學(xué) 135****8607 剛剛成功領(lǐng)取
楊同學(xué) 132****5667 剛剛成功領(lǐng)取
岳同學(xué) 134****6652 剛剛成功領(lǐng)取
梁同學(xué) 157****2950 剛剛成功領(lǐng)取
劉同學(xué) 189****1015 剛剛成功領(lǐng)取
張同學(xué) 155****4678 剛剛成功領(lǐng)取
鄒同學(xué) 139****2907 剛剛成功領(lǐng)取
董同學(xué) 138****2867 剛剛成功領(lǐng)取
周同學(xué) 136****3602 剛剛成功領(lǐng)取
相關(guān)推薦HOT
反欺詐中所用到的機(jī)器學(xué)習(xí)模型有哪些?

一、邏輯回歸模型邏輯回歸是一種常用的分類模型,特別適合處理二分類問題。在反欺詐中,邏輯回歸可以用來預(yù)測一筆交易是否是欺詐。二、決策樹模...詳情>>

2023-10-14 14:09:29
軟件開發(fā)管理流程中會出現(xiàn)哪些問題?

一、需求不清需求不明確是導(dǎo)致項目失敗的主要原因之一。如果需求沒有清晰定義,開發(fā)人員可能會開發(fā)出不符合用戶期望的產(chǎn)品。二、通信不足溝通問...詳情>>

2023-10-14 13:43:21
軟件定制開發(fā)中的敏捷開發(fā)是什么?

軟件定制開發(fā)中的敏捷開發(fā)是什么軟件定制開發(fā)中的敏捷開發(fā),從宏觀上看,是一個高度關(guān)注人員交互,持續(xù)開發(fā)與交付,接受需求變更并適應(yīng)環(huán)境變化...詳情>>

2023-10-14 13:24:57
什么是PlatformIo?

PlatformIO是什么PlatformIO是一個全面的物聯(lián)網(wǎng)開發(fā)平臺,它為眾多硬件平臺和開發(fā)環(huán)境提供了統(tǒng)一的工作流程,有效簡化了開發(fā)過程,并能兼容各種...詳情>>

2023-10-14 12:55:06
云快照與自動備份有什么區(qū)別?

1、定義和目標(biāo)不同云快照的主要目標(biāo)是提供一種快速恢復(fù)數(shù)據(jù)的方法,它只記錄在快照時間點后的數(shù)據(jù)變化,而不是所有的數(shù)據(jù)。自動備份的主要目標(biāo)...詳情>>

2023-10-14 12:48:59
快速通道