这是Hadoop学习全程记录第1篇,在这篇里我将介绍一下如何在Linux下安装Hadoop1.x。
先说明一下我的开发环境:
虚拟机:VMware8.0;
操作系统:CentOS6.4;
版本:jdk1.8;hadoop1.2.1
①下载hadoop1.2.1,网盘:链接: https://pan.baidu.com/s/1sl5DMIp 密码: 5p67
下载jdk1.8,网盘:链接: https://pan.baidu.com/s/1boN1gh5 密码: t36h
将 jdk-8u144-linux-x64.tar.gz 解压至 /home/wyt/jdk8 文件夹下,将 hadoop-1.2.1.tar.gz 解压至 /home/wyt/hadoop 文件夹下。
②配置jdk及hadoop环境变量:修改/etc/profile文件
vim /etc/profile //输入I,进入编辑模式
export JAVA_HOME=/home/wyt/jdk8 export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib export HADOOP_HOME=/home/wyt/hadoop export PATH=$PATH:$HADOOP_HOME/bin:$JAVA_HOME/bin
//按Esc,按Shift,输入:wq source /etc/profile //保存并退出
③测试
java,javac,java -version hadoop
④修改hadoop配置文件
export JAVA_HOME=/usr/java/jdk8hadoop.tmp.dir /hadoop dfs.name.dir /hadoop/name fs.default.name hdfs://localhost:9000 dfs.data.dir /hadoop/data mapred.job.tracker localhost:9001
并在hadoop安装目录下新建data、name、tmp文件夹。
⑤名称节点格式化,并查看运行状态
hadoop namenode -format //cd 命令切换至 hadoop/bin/文件夹下,输入 ls 命令查看 start-all.sh jps //查看运行状态,运行正常的话需要多次输入密码 //最后结果为: // Jps // JobTracker // NameNode // DataNode // SecondaryNameNode // NodeManager
⑥测试hdfs
//常用hdfs命令: hadoop fs -ls /查看目录 hadoop fs -put a.txt /user/hadoop/放入 hadoop fs -cat /user/hadoop/a.txt 查看内容 hadoop fs -rmr /output:删除文件/文件夹
附:linux常用命令:
cd .. //返回上级目录 cd ~ //返回Home目录 cd / //返回根目录 cd var/ //进入var/文件夹下(使用tab) su - //超级管理员模式 ifconfig //查看ip
附:其他常用linux操作软件:
//windows与虚拟机centos文件传输: filezilla;Xftp 5;或者安装VMware Tools(可便捷使用剪切板及文件复制功能) //脱离虚拟机centos输入命令行: Xshell 5
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。