Hadoop:单节点集群设置

单节点集群(local/standalone mode),即安装在单节点(一台主机)的本地模式,也叫独立模式。所有程序都在单个JVM上执行。使用本地文件系统,而不是分布式文件系统。无需运行任何守护进程,hadoop不会启动NameNode、DataNode等守护进程,Map()和Reduce()任务作为同一个进程的不同部分来执行的。

目录

准备工作

详细步骤

程序测试


准备工作

操作平台

  • VMware14
  • CentOS-6.8-x86_64-bin-DVD1.iso

软件

  • jdk开发环境:jdk-8u201-linux-i586.tar.gz
  • ssh软件,rsync软件:CentOS – DVD1.iso内置的软件;可运行指令串 rpm -qa | grep ssh / rsync 查看是否安装
  • hadoop环境:hadoop-2.7.3.tar.gz

 

详细步骤

安装jdk,配置环境变量

先查看虚拟机中是否安装了jdk,若有删除

将jdk文件上传到主目录下新建的apps文件夹中并解压

为jdk1.8创建一个软链接

在~/.bash_profile配置文件内,配置jdk的环境变量

使用source命令,重新加载~/.bash_profile

使用javac或java -version命令查看是否配置成功

 

解压hadoop,配置环境变量

解压hadoop,创建软链接

同样在~/.bash_profile中配置环境变量

然后重新加载此文件,并查看是否成功配置

 

程序测试

测试hadoop官 中的一个mapreduce程序:统计符合正则表达式 ‘dfs[a-z.]+’ 的单词,并输出到指定目录下

1、在hadoop目录下创建目录input,将hadoop的etc/hadoop/下的所有xml文件复制到input下

2、使用hadoop自带的mapreduce程序进行统计符合增则表达式的单词,并输出到指定目录下

可能会出现错误:https://blog.csdn.net/qq_39192827/article/details/88600753

 

声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!

上一篇 2019年2月15日
下一篇 2019年2月15日

相关推荐