怎么在Win10用Hadoop

1.怎么在windows上搭建hadoop环境

1、下载安装JDK,以及Eclipse

具体看此链接:/weixuehao/article/details/17715793

2、新建JAVA Project

3、去cloudera网站下载hadoop的CDH3u6版本。将起解压到win7的某个目录

4、选中OperateHDFS,右击,选择“property”,弹出右侧的窗口;

选择“Java Build Path” —— “Libraries” —— Add External Jars

5、到上面的画面后,下面就是选择开发hadoop程序时,用到的一些jar包

将lib文件夹下的所有的jar包,添加进去;将红框内的jar包,安装进去。

6、创建配置文件夹

7、将core-site.xml,hdfs-site.xml,mapred-site.xml放入到此文件夹中。

8、右键->;属性 进行如下操作,添加刚刚创建conf文件夹

配置搞定!

写代码的过程中要写入的namenode和jobtracker地址(修改为你自己的)

在你的代码中,加入如下代码就可以了

Configuration conf = new Configuration();

conf.set("fs.default.name","192.1.1.2:9000");

conf.set("mapred.job.tracker","192.1.1.2:9001");

2.如何在windows下安装hadoop

Hadoop三种安装模式:单机模式,伪分布式,真正分布式一 单机模式standalone单机模式是Hadoop的默认模式。

当首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。

当配置文件为空时,Hadoop会完全运行在本地。因为不需要与其他节点交互,单机模式就不使用HDFS,也不加载任何Hadoop的守护进程。

该模式主要用于开发调试MapReduce程序的应用逻辑。二 伪分布模式安装tar xzvf hadoop-0.20.2.tar.gzHadoop的配置文件:conf/hadoop-env.sh 配置JAVA_HOMEcore-site.xml 配置HDFS节点名称和地址hdfs-site.xml 配置HDFS存储目录,复制数量mapred-site.xml 配置mapreduce的jobtracker地址配置ssh,生成密匙,使到ssh可以免密码连接(RSA算法,基于因数不对称加密:公钥加密私钥才能解密,私钥加密公钥才能解密)cd /rootssh -keygen -t rsacd .sshcp id_rsa.pub authorized_keys覆盖公钥,就能免密码连接启动Hadoop bin/start-all.sh停止Hadoop bin/stop-all.sh三 完全分布式模式1. 配置etc/hosts文件,使主机名解析为IP 或者使用DNS服务解析主机名2. 建立hadoop运行用户: useradd grid>passwd grid3. 配置ssh密码连入: 每个节点用grid登录,进入主工作目录,ssh -keygen -t rsa生产公钥,然后将每个节点的公钥复制到同一个文件中,再将这个包含所有节点公钥的文件复制到每个节点authorized_keys目录,这个每个节点之间彼此可以免密码连接4. 下载并解压hadoop安装包5. 配置namenode,修改site文件6. 配置hadoop-env.sh7. 配置masters和slaves文件8. 向各个节点复制hadoop9. 格式化namenode10.启动hadoop11.用jps检验各后台进程是否成功启动。

3.如何在windows下安装hadoop

Hadoop三种安装模式:单机模式,伪分布式,真正分布式

一 单机模式standalone

单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时,Hadoop会完全运行在本地。因为不需要与其他节点交互,单机模式就不使用HDFS,也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。

二 伪分布模式安装

tar xzvf hadoop-0.20.2.tar.gz

Hadoop的配置文件:

conf/hadoop-env.sh 配置JAVA_HOME

core-site.xml 配置HDFS节点名称和地址

hdfs-site.xml 配置HDFS存储目录,复制数量

mapred-site.xml 配置mapreduce的jobtracker地址

配置ssh,生成密匙,使到ssh可以免密码连接

(RSA算法,基于因数不对称加密:公钥加密私钥才能解密,私钥加密公钥才能解密)

cd /root

ssh -keygen -t rsa

cd .ssh

cp id_rsa.pub authorized_keys覆盖公钥,就能免密码连接

启动Hadoop bin/start-all.sh

停止Hadoop bin/stop-all.sh

三 完全分布式模式

1. 配置etc/hosts文件,使主机名解析为IP 或者使用DNS服务解析主机名

2. 建立hadoop运行用户: useradd grid>passwd grid

3. 配置ssh密码连入: 每个节点用grid登录,进入主工作目录,ssh -keygen -t rsa生产公钥,然后将每个节点的公钥复制到同一个文件中,再将这个包含所有节点公钥的文件复制到每个节点authorized_keys目录,这个每个节点之间彼此可以免密码连接

4. 下载并解压hadoop安装包

5. 配置namenode,修改site文件

6. 配置hadoop-env.sh

7. 配置masters和slaves文件

8. 向各个节点复制hadoop

9. 格式化namenode

10.启动hadoop

11.用jps检验各后台进程是否成功启动。

怎么在Win10用Hadoop

转载请注明出处windows之家 » 怎么在Win10用Hadoop

win10

win10按关机怎么重启

阅读(83)

本文主要为您介绍win10按关机怎么重启,内容包括windows10怎样关机或重启,win10怎样重启电脑,windows10怎么重启系统。工具:win10方法如下:首先单击windows10桌面左下角窗口标志,再单击弹出的菜单顶部“关机标志”,有选择关机或重启,选择关机,单

win10

win10台式机游戏怎么语音

阅读(94)

本文主要为您介绍win10台式机游戏怎么语音,内容包括求助啊为什么我的游戏没有语音啊win10的,win10在游戏里不能说话吗,win10系统,想在游戏内置语音放歌,可是没有声卡,需要怎样设置。首先确保线路,和声卡驱动是否正常在右下角的小扬声器不见

win10

win10怎么c盘重置

阅读(125)

本文主要为您介绍win10怎么c盘重置,内容包括win10怎么重置释放C盘的空间,win10怎么格式化c盘并重装系统,如何进行win10重置。打开屏幕下方的“通知”按钮或者通过开始屏幕,进入电脑的设置页面。2、在设置页面里,找到“更新与安全”按钮,点击后

win10

win10怎么恢复到上一次系统

阅读(74)

本文主要为您介绍win10怎么恢复到上一次系统,内容包括win10系统怎样回到原来系统,win10电脑怎样还原系统,win10电脑怎么恢复上一次windows。点击win10桌面右下角的“操作中心图标”,然后右侧弹出界面,选择“所有设置”。弹出系统设置菜单。选

win10

盗版win10更新不了怎么办

阅读(69)

本文主要为您介绍盗版win10更新不了怎么办,内容包括盗版win10怎么更新,盗版win10怎么更新,win7副本盗版更新win10预览版失败怎么办?。盗版win10怎么更新?Win10系统是微软最新发布的操作系统,其会定期更新,以便保持系统最安全的状态,那么,如果Win

win10

网吧win10怎么连蓝牙

阅读(111)

本文主要为您介绍网吧win10怎么连蓝牙,内容包括用网吧的电脑如何连自己的蓝牙耳机??,windows10怎么连接蓝牙,windows10怎样连接蓝牙。把蓝牙的适配器插在电脑主机上面的USB接口。

win10

xbox可以安装win10的应用

阅读(82)

本文主要为您介绍xbox可以安装win10的应用,内容包括xbox可以装win10的程序吗,xboxone可以安装win10应用吗,xboxone支持win10游戏吗。可以是可以,Windows 10通用应用程序是微软7月周年更新到重头戏之一。现在Reddit用户peterthepancakeeater

win10

天下叁win10怎么降低内存

阅读(65)

本文主要为您介绍天下叁win10怎么降低内存,内容包括怎么彻底删除天下3,包括内存,玩天下3,经常碰到内存不足,怎么办,天下3玩着玩着总是提示内存不足。你好,这是一种很常见的故障,运行DOS应用程序和Windows应用程序引起“内存不足”的原因不完

win10

win7怎么模拟WIN10系统环境

阅读(117)

本文主要为您介绍win7怎么模拟WIN10系统环境,内容包括怎么把系统从win7变成win10,win7下怎么安装win10双系统,怎样在win7下装win10双系统。笔记本电脑装win10系统变成win7的方法:只安装了win10系统的直接重装win7可以覆盖掉win10安装win7:准

win10

win10怎么打开eml文件编辑

阅读(83)

本文主要为您介绍win10怎么打开eml文件编辑,内容包括win10怎么打开eml文件,eml文件怎么打开win10,如何打开eml格式文件。电脑上安装了Windows Live Mail之后,右击eml文件,选择属性。2、单击“打开方式”后面的“更改”,然后找到并选择Wind

win10

win10怎么改成win8兼容模式

阅读(53)

本文主要为您介绍win10怎么改成win8兼容模式,内容包括win10兼容win8怎么设置,win10兼容win8怎么设置,win10怎么变成win8界面。虽然Win10系统发布已经有一段时间,但在程序兼容性上仍旧有不少问题。好在Win10系统向下兼容Win8.1/Win7等等系统,

win10

win10怎么不收费软件

阅读(59)

本文主要为您介绍win10怎么不收费软件,内容包括win10怎么免费安装收费软件,win10怎么免费安装收费软件,电脑win10系统下载要钱吗。应该可以升级的,但是使用起来不会太稳定。直接换个验证过的系统盘重装系统就行了,这样就可以全程自动、顺利解

win10

win10系统时间不动了怎么办

阅读(55)

本文主要为您介绍win10系统时间不动了怎么办,内容包括win10系统时间不走怎么回事,win10系统时间不正常怎么解决,win10更新十几个小时不动,怎么办?。在WIN10的桌面上,然后在左下角时间位置处,点击一下就会看到如下图所示的界面,然后再点击【更

win10

win10系统不匹配怎么办

阅读(90)

本文主要为您介绍win10系统不匹配怎么办,内容包括win10系统激活时提示版本不匹配如何解决?,win10系统无法激活并提示版本不匹配怎么办,显卡驱动与windows10不兼容怎么办。原因分析:该问题的主要原因是因微软此次发布了两种版本的系统,技术预

win10

win10按关机怎么重启

阅读(83)

本文主要为您介绍win10按关机怎么重启,内容包括windows10怎样关机或重启,win10怎样重启电脑,windows10怎么重启系统。工具:win10方法如下:首先单击windows10桌面左下角窗口标志,再单击弹出的菜单顶部“关机标志”,有选择关机或重启,选择关机,单

win10

win10台式机游戏怎么语音

阅读(94)

本文主要为您介绍win10台式机游戏怎么语音,内容包括求助啊为什么我的游戏没有语音啊win10的,win10在游戏里不能说话吗,win10系统,想在游戏内置语音放歌,可是没有声卡,需要怎样设置。首先确保线路,和声卡驱动是否正常在右下角的小扬声器不见

win10

win10怎么c盘重置

阅读(125)

本文主要为您介绍win10怎么c盘重置,内容包括win10怎么重置释放C盘的空间,win10怎么格式化c盘并重装系统,如何进行win10重置。打开屏幕下方的“通知”按钮或者通过开始屏幕,进入电脑的设置页面。2、在设置页面里,找到“更新与安全”按钮,点击后

win10

win10怎么恢复到上一次系统

阅读(74)

本文主要为您介绍win10怎么恢复到上一次系统,内容包括win10系统怎样回到原来系统,win10电脑怎样还原系统,win10电脑怎么恢复上一次windows。点击win10桌面右下角的“操作中心图标”,然后右侧弹出界面,选择“所有设置”。弹出系统设置菜单。选

win10

盗版win10更新不了怎么办

阅读(69)

本文主要为您介绍盗版win10更新不了怎么办,内容包括盗版win10怎么更新,盗版win10怎么更新,win7副本盗版更新win10预览版失败怎么办?。盗版win10怎么更新?Win10系统是微软最新发布的操作系统,其会定期更新,以便保持系统最安全的状态,那么,如果Win

win10

网吧win10怎么连蓝牙

阅读(111)

本文主要为您介绍网吧win10怎么连蓝牙,内容包括用网吧的电脑如何连自己的蓝牙耳机??,windows10怎么连接蓝牙,windows10怎样连接蓝牙。把蓝牙的适配器插在电脑主机上面的USB接口。

win10

xbox可以安装win10的应用

阅读(82)

本文主要为您介绍xbox可以安装win10的应用,内容包括xbox可以装win10的程序吗,xboxone可以安装win10应用吗,xboxone支持win10游戏吗。可以是可以,Windows 10通用应用程序是微软7月周年更新到重头戏之一。现在Reddit用户peterthepancakeeater

win10

win10安装itunes错误码2502

阅读(77)

本文主要为您介绍win10安装itunes错误码2502,内容包括我的电脑下载iTunes时会出现2503和2502错误,因此无法完成下载任,win10安装软件都是出现2502是什么意思,求助,ituns无法安装提示错误代码25022503。1. 进入任务管理器 > 详细信息 >