成功搭建Hadoop集群后简单实验

  1> 检查对HDFS的访问(在namenode上操作)

  #./hadoop-0.20.2/bin/hadoop fs -ls

  2> hadoop中的文件系统操作

  #./hadoop-0.20.2/bin/hadoop fs -mkdir test

  #./hadoop-0.20.2/bin/hadoop fs -ls test

  #./hadoop-0.20.2/bin/hadoop fs -rmr test

  3> 测试hadoop

  a> 创建子目录

  #./hadoop-0.20.2/bin/hadoop fs -mkdir input

  b> 把本地文件移动到hdfs

  #./hadoop-0.20.2/bin/hadoop fs -put /usr/share/doc/pam-1.1.1/rfc86.0.txt input

  #./hadoop-0.20.2/bin/hadoop fs -put /usr/share/doc/pam-1.1.1/Linux-PAM_SAG.txt input

  c> 查看文件是否存在

  #./hadoop-0.20.2/bin/hadoop fs -ls input

  d> 执行计算单词频率的MapReduce作业

  #./hadoop-0.20.2/bin/hadoop jar /root/hadoop-0.20.2/hadoop-0.20.2-examples.jar wordcount input output

  Found 2 items

  drwxr-xr-x - root supergroup 0 2012-11-26 04:25 /user/root/output/_logs

  -rw-r--r-- 2 root supergroup 8315 2012-11-26 04:25 /user/root/output/part-r-00000

  e> 查看输出结果

  #./hadoop-0.20.2/bin/hadoop fs -ls output

  #./hadoop-0.20.2/bin/hadoop fs -cat output/part-r-00000 | head -n 13

  f> 从HDFS提取输出

  #./hadoop-0.20.2/bin/hadoop fs -get output/part-r-00000 output.txt

(0)

相关推荐

  • hadoop入门之hadoop集群验证任务存放在不同的节点上

    Linux环境:CentOs6.4 Hadoop版本:Hadoop-1.1.2 master: 192.168.1.241 NameNode JobTracker DataNode TaskTrack ...

  • Hadoop集群运行JNI程序

    要在Hadoop集群运行上运行JNI程序,首先要在单机上调试程序直到可以正确运行JNI程序,之后移植到Hadoop集群就是水到渠成的事情。 Hadoop运行程序的方式是通过jar包,所以我们需要将所有 ...

  • 搭建Win2008故障转移群集、如何搭建服务器集群、2008故障转移群集搭建方法

    [IT168 技术]故障转移群集可以配置使用多种不同的配置.组成群集的服务器可以是活跃状态或不活跃状态,而不同服务器可以被配置为在活跃服务器故障后立刻接管相应的资源.一般故障转移的过程只需要几分钟的时 ...

  • Zookeeper集群搭建

    由于公司缓存方案改进,准备采用codis集群作为主要的缓存解决方案(codis:国内豌豆荚开发的redis集群解决方案,已开源,github地址:https://github.com/CodisLab ...

  • hadoop多台机器集群的配置

    以前也配置过hadoop集群,但是很久没有重新去倒腾配置的细节,导致这次走了不少弯路。为了让后来的人少走弯路,也给我自己留个提醒,于是就有了这篇文章。 首先配置这个集群主要包括三个部分。三个部分各自都 ...

  • 在VMWare中配置SQLServer2005集群 Step by Step(一) 环境

    前言 经过一周多的摸索,终于在VMWare 中把windows2003+SQLServer2005 集群安装 起来了,纸上得来终觉浅,绝知此事要躬行,看来是很有道理的。安装过程往往是卡在一些不起眼的小 ...

  • 用LVS在Linux上搭建负载均衡集群服务

    一、基于NAT的LVS的安装与配置 1. 硬件需求和网络拓扑 2.下载软件: (1)、内核源代码:需要下载2.4.23以后版本的内核源代码。下载地址为http://www.kerner.org.本文中 ...

  • Linux系统 CentOS 7怎么搭建集群? 搭建高可用集群的步骤

    CentOS 7下怎么搭建高可用集群。高可用集群是指以减少服务中断时间为目的的服务器集群技术。它通过保护用户的业务程序对外不间断提供的服务,把因软件/硬件/人为造成的故障对业务的影响降低到最小程度。那 ...

  • CentOS 7下怎么搭建高可用集群?

    CentOS 7下怎么搭建高可用集群。高可用集群是指以减少服务中断时间为目的的服务器集群技术。它通过保护用户的业务程序对外不间断提供的服务,把因软件/硬件/人为造成的故障对业务的影响降低到最小程度。那 ...