单节点集群(local/standalone mode),即安装在单节点(一台主机)的本地模式,也叫独立模式。所有程序都在单个JVM上执行。使用本地文件系统,而不是分布式文件系统。无需运行任何守护进程,hadoop不会启动NameNode、DataNode等守护进程,Map()和Reduce()任务作为同一个进程的不同部分来执行的。
目录
准备工作
详细步骤
程序测试
准备工作
操作平台
- VMware14
- CentOS-6.8-x86_64-bin-DVD1.iso
软件
- jdk开发环境:jdk-8u201-linux-i586.tar.gz
- ssh软件,rsync软件:CentOS – DVD1.iso内置的软件;可运行指令串 rpm -qa | grep ssh / rsync 查看是否安装
- hadoop环境:hadoop-2.7.3.tar.gz
详细步骤
安装jdk,配置环境变量
先查看虚拟机中是否安装了jdk,若有删除
将jdk文件上传到主目录下新建的apps文件夹中并解压
为jdk1.8创建一个软链接
在~/.bash_profile配置文件内,配置jdk的环境变量
使用source命令,重新加载~/.bash_profile
使用javac或java -version命令查看是否配置成功
解压hadoop,配置环境变量
解压hadoop,创建软链接
同样在~/.bash_profile中配置环境变量
然后重新加载此文件,并查看是否成功配置
程序测试
测试hadoop官 中的一个mapreduce程序:统计符合正则表达式 ‘dfs[a-z.]+’ 的单词,并输出到指定目录下
1、在hadoop目录下创建目录input,将hadoop的etc/hadoop/下的所有xml文件复制到input下
2、使用hadoop自带的mapreduce程序进行统计符合增则表达式的单词,并输出到指定目录下
可能会出现错误:https://blog.csdn.net/qq_39192827/article/details/88600753
声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!