当前位置:  开发笔记 > 运维 > 正文

Fedora 20下Eclipse Ingido中配置Hadoop插件并运行Wordcount例程

1.启动Hadoop进入root权限,进入Hadoop安装目录$HADOOP_HOME执行Bin/start-all.shJps查看hadoop进程2.启动eclipse进入eclipse的安装目录,在root权限下运行eclipse./eclipse&后台运行以便进行其它操作。3.Eclipse装Hadoop插件Window->pref

1. 启动Hadoop

进入root权限,进入Hadoop安装目录$HADOOP_HOME

执行Bin/start-all.sh

Jps查看hadoop进程

2. 启动eclipse

进入eclipse的安装目录,在root权限下运行eclipse

./eclipse& 后台运行以便进行其它操作。

3. Eclipse装Hadoop插件

Window->preference->HadoopMapReduce 设置好Hadoop的安装目录

/usr/programFiles/hadoop-1.0.1

Eclipse中本没有hadoop插件,

按照 http://www.linuxidc.com/Linux/2013-08/88957p2.htm  安装eclipsehadoop插件

4. 配置Map/Reduce Locations

Windows->Show View->Map/Reduce Locations 打开Map/ReduceLocations

右键->New Hadoop Location

填入mapred-site.xml、core-site.xml中配置的地址及端口,如下所示:

 

5. 新建项目

File-->New-->Other-->Map/Reduce Project,项目名可以随便取如WordCount_root。

复制 hadoop安装目录/src/example/org/apache/hadoop/examples/WordCount.java到刚才新建的项目WordCount下,修改WordCount.java首行package为mypackage。

6. 在hadoop安装目录下创建文件夹:

在/usr/programFiles/hadoop-1.0.1下创建test_wordCount_0103

在test_wordCount_0103文件夹下创建file0、file1文件,分别写入一些单词。

在HDFS分布式文件系统中创建目录input:bin/hadoop fs –mkdir input

7. 将数据从Linux文件系统复制到HDFS分布式文件系统中

bin/hadoop fs –put/usr/programFiles/hadoop-1.0.1/test_wordCount_0103 input

8. Run

右键项目->Run As->Run Configurations

点Java Application,右键-->New,这时会新建一个application名为WordCount。

配置运行参数,点Arguments,在Program arguments中输入你要传给程序的输入文件夹和你要求程序将计算结果保存的文件夹,如下图所示。注意这里的output一定是不存在的文件,存在就会报错!

点击Run,运行程序。

9. 查看结果

bin/hadoop fs –ls output

 

bin/hadoop fs –cat output/part-r-00000 或者直接output/*也行

 

其中input的内容是:

相关阅读

Ubuntu 13.04上搭建Hadoop环境 http://www.linuxidc.com/Linux/2013-06/86106.htm

Ubuntu 12.10 +Hadoop 1.2.1版本集群配置 http://www.linuxidc.com/Linux/2013-09/90600.htm

Ubuntu上搭建Hadoop环境(单机模式+伪分布模式) http://www.linuxidc.com/Linux/2013-01/77681.htm

Ubuntu下Hadoop环境的配置 http://www.linuxidc.com/Linux/2012-11/74539.htm

单机版搭建Hadoop环境图文教程详解 http://www.linuxidc.com/Linux/2012-02/53927.htm

搭建Hadoop环境(在Winodws环境下用虚拟机虚拟两个Ubuntu系统进行搭建) http://www.linuxidc.com/Linux/2011-12/48894.htm

更多Hadoop相关信息见Hadoop 专题页面 http://www.linuxidc.com/topicnews.aspx?tid=13

推荐阅读
携手相约幸福
这个屌丝很懒,什么也没留下!
DevBox开发工具箱 | 专业的在线开发工具网站    京公网安备 11010802040832号  |  京ICP备19059560号-6
Copyright © 1998 - 2020 DevBox.CN. All Rights Reserved devBox.cn 开发工具箱 版权所有