最近2018中文字幕在日韩欧美国产成人片_国产日韩精品一区二区在线_在线观看成年美女黄网色视频_国产精品一区三区五区_国产精彩刺激乱对白_看黄色黄大色黄片免费_人人超碰自拍cao_国产高清av在线_亚洲精品电影av_日韩美女尤物视频网站

RELATEED CONSULTING
相關(guān)咨詢
選擇下列產(chǎn)品馬上在線溝通
服務(wù)時(shí)間:8:30-17:00
你可能遇到了下面的問題
關(guān)閉右側(cè)工具欄

新聞中心

這里有您想知道的互聯(lián)網(wǎng)營銷解決方案
hadoop新特性通過NFSv3掛載HDFS到本地目錄

原理

目前創(chuàng)新互聯(lián)建站已為1000+的企業(yè)提供了網(wǎng)站建設(shè)、域名、雅安服務(wù)器托管、網(wǎng)站托管、服務(wù)器托管、企業(yè)網(wǎng)站設(shè)計(jì)、常山網(wǎng)站維護(hù)等服務(wù),公司將堅(jiān)持客戶導(dǎo)向、應(yīng)用為本的策略,正道將秉承"和諧、參與、激情"的文化,與客戶和合作伙伴齊心協(xié)力一起成長,共同發(fā)展。

NFS允許用戶像訪問本地文件系統(tǒng)一樣訪問遠(yuǎn)程文件系統(tǒng),而將NFS引入HDFS后,用戶可像讀寫本地文件一樣讀寫HDFS上的文件,大大簡化了HDFS使用,這是通過引入一個(gè)NFS gateway服務(wù)實(shí)現(xiàn)的,該服務(wù)能將NFS協(xié)議轉(zhuǎn)換為HDFS訪問協(xié)議,具體如下圖所示。

hadoop新特性通過NFSv3掛載HDFS到本地目錄

Portmap和Nfs3進(jìn)程是成功啟動(dòng)hdfs nfs網(wǎng)關(guān)后才有的進(jìn)程

HDFS NFS Gateway安裝配置詳解

http://blog.csdn.net/rzliuwei/article/details/38388279

啟動(dòng)NFS Gateway 服務(wù)

官網(wǎng)鏈接

http://hadoop.apache.org/docs/r2.4.1/hadoop-project-dist/hadoop-hdfs/HdfsNfsGateway.html

hadoop新特性通過NFSv3掛載HDFS到本地目錄

驗(yàn)證服務(wù)

hadoop新特性通過NFSv3掛載HDFS到本地目錄

hadoop新特性通過NFSv3掛載HDFS到本地目錄

如果不是可以查看/etc/exports文件

hadoop新特性通過NFSv3掛載HDFS到本地目錄

掛載HDFS

掛載HDFS文件系統(tǒng)到本地的/mnt/hdfs目錄下

在NFS GATEWAY主機(jī)上輸入

sudo mount -t nfs -o vers=3,proto=tcp,nolock 192.168.1.105:/ /mnt/hdfs


May  8 15:53:18 cdh2 rpc.mountd[3689]: refused mount request from 192.168.1.105 for / (/): unmatched host

如果報(bào)錯(cuò)因?yàn)闄C(jī)器默認(rèn)沒有打開NFSv3,修改/etc/sysconfig/nfs文件

把RPCNFSDARGS="-N 4"前面的#去掉(4兼容2和3),修改重啟所有服務(wù)。

hadoop新特性通過NFSv3掛載HDFS到本地目錄

查看報(bào)錯(cuò)詳細(xì)信息:
cat /var/log/messages|grep mount

成功掛載后如下所示,可以看到HDFS文件系統(tǒng)已掛載到本地目錄

hadoop新特性通過NFSv3掛載HDFS到本地目錄

創(chuàng)建目錄

hadoop新特性通過NFSv3掛載HDFS到本地目錄
可以看到HDFS系統(tǒng)上對(duì)應(yīng)目錄已創(chuàng)建成功

hadoop新特性通過NFSv3掛載HDFS到本地目錄

從本地上傳文件到HDFS

文件大小為500m,測試性能

time  cp /opt/cloudera-manager-el6-cm5.3.3_x86_64.tar.gz /mnt/hdfs/test

hadoop新特性通過NFSv3掛載HDFS到本地目錄

我的環(huán)境上耗時(shí)大概48s,10M/s的速度,還可以

解掛HDFS

報(bào)錯(cuò)umount.nfs: /mnt/hdfs: device is busy

hadoop新特性通過NFSv3掛載HDFS到本地目錄


fuser -m /mnt/hdfs,查看此文件系統(tǒng)正在被哪些進(jìn)程訪問

hadoop新特性通過NFSv3掛載HDFS到本地目錄

yum -y install  lsof 
查看此文件系統(tǒng)中正在被使用的文件,可以看到/data目錄被正在使用

hadoop新特性通過NFSv3掛載HDFS到本地目錄

kill -9  15355 殺死訪問進(jìn)程就可以,輸入umount /mnt/hdfs解掛成功。

補(bǔ)充:

linux下好用的命令:tree 

安裝tree包 

yum -y install tree  

 安裝后鍵入  tree  /mnt/hdfs/hbase,目錄結(jié)構(gòu)以樹形的方式顯示是不是很直觀

hadoop新特性通過NFSv3掛載HDFS到本地目錄


當(dāng)前文章:hadoop新特性通過NFSv3掛載HDFS到本地目錄
本文地址:http://fisionsoft.com.cn/article/peejii.html