当前位置:  开发笔记 > 编程语言 > 正文

我可以逐行阅读hadoop文件吗?

如何解决《我可以逐行阅读hadoop文件吗?》经验,为你挑选了1个好方法。

我想从hadoop文件系统中读取unix框中的逐行记录:

示例 -

while read line

do 

echo "input record " $line
###some other logic i have here....
done < /user/want/to/read/from/hadoop/part00

上面的代码片段显示错误 -

**: cannot open [No such file or directory]**

如何使用Unix工具从Hadoop中读取?



1> Charles Duff..:

使用该hadoop fs命令可以访问这些文件的内容:

while IFS= read -r line; do
  echo "Read: $line"
done < <(hadoop fs -cat hdfs://nodename/filename)

注意,<()构造需要bash; 因此,你的脚本需要从而开始#!/bin/bash,而不是#!/bin/sh.

推荐阅读
N个小灰流_701
这个屌丝很懒,什么也没留下!
DevBox开发工具箱 | 专业的在线开发工具网站    京公网安备 11010802040832号  |  京ICP备19059560号-6
Copyright © 1998 - 2020 DevBox.CN. All Rights Reserved devBox.cn 开发工具箱 版权所有