建站
咨詢
售后
建站咨詢
新聞中心
這篇文章主要為大家展示了“hive文件存儲格式有哪些”，內(nèi)容簡而易懂，條理清晰，希望能夠幫助大家解決疑惑，下面讓小編帶領(lǐng)大家一起研究并學(xué)習(xí)一下“hive文件存儲格式有哪些”這篇文章吧。
扎囊ssl適用于網(wǎng)站、小程序/APP、API接口等需要進(jìn)行數(shù)據(jù)傳輸應(yīng)用場景，ssl證書未來市場廣闊！成為創(chuàng)新互聯(lián)的ssl證書銷售渠道，可以享受市場價格4-6折優(yōu)惠！如果有意向歡迎電話聯(lián)系或者加微信：18982081108（備注：SSL證書合作）期待與您的合作！
Hive文件存儲格式的測試比較
1.textfile
textfile為默認(rèn)格式
存儲方式：行存儲
磁盤開銷大 數(shù)據(jù)解析開銷大
壓縮的text文件 hive無法進(jìn)行合并和拆分
2.sequencefile
二進(jìn)制文件,以
存儲方式：行存儲
可分割 壓縮
一般選擇block壓縮
優(yōu)勢是文件和hadoop api中的mapfile是相互兼容的。
3.rcfile
存儲方式：數(shù)據(jù)按行分塊 每塊按照列存儲
壓縮快 快速列存取
讀記錄盡量涉及到的block最少
讀取需要的列只需要讀取每個row group 的頭部定義。
讀取全量數(shù)據(jù)的操作 性能可能比sequencefile沒有明顯的優(yōu)勢
4.orc
存儲方式：數(shù)據(jù)按行分塊 每塊按照列存儲
壓縮快 快速列存取
效率比rcfile高,是rcfile的改良版本
5.自定義格式
用戶可以通過實(shí)現(xiàn)inputformat和 outputformat來自定義輸入輸出格式。
總結(jié)：
textfile 存儲空間消耗比較大，并且壓縮的text 無法分割和合并 查詢的效率最低,可以直接存儲，加載數(shù)據(jù)的速度最高
sequencefile 存儲空間消耗最大,壓縮的文件可以分割和合并 查詢效率高，需要通過text文件轉(zhuǎn)化來加載
rcfile 存儲空間最小，查詢的效率最高 ，需要通過text文件轉(zhuǎn)化來加載，加載的速度最低
個人建議：text,seqfile能不用就盡量不要用 最好是選擇orc
以上是“hive文件存儲格式有哪些”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對大家有所幫助，如果還想學(xué)習(xí)更多知識，歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道！
新聞標(biāo)題：hive文件存儲格式有哪些
本文來源：http://www.ef60e0e.cn/article/jsjcde.html
