最新文章专题视频专题问答1问答10问答100问答1000问答2000关键字专题1关键字专题50关键字专题500关键字专题1500TAG最新视频文章推荐1 推荐3 推荐5 推荐7 推荐9 推荐11 推荐13 推荐15 推荐17 推荐19 推荐21 推荐23 推荐25 推荐27 推荐29 推荐31 推荐33 推荐35 推荐37视频文章20视频文章30视频文章40视频文章50视频文章60 视频文章70视频文章80视频文章90视频文章100视频文章120视频文章140 视频2关键字专题关键字专题tag2tag3文章专题文章专题2文章索引1文章索引2文章索引3文章索引4文章索引5123456789101112131415文章专题3
问答文章1 问答文章501 问答文章1001 问答文章1501 问答文章2001 问答文章2501 问答文章3001 问答文章3501 问答文章4001 问答文章4501 问答文章5001 问答文章5501 问答文章6001 问答文章6501 问答文章7001 问答文章7501 问答文章8001 问答文章8501 问答文章9001 问答文章9501
当前位置: 首页 - 科技 - 知识百科 - 正文

"Hadoop/MapReduce/HBase"分享总结

来源:懂视网 责编:小采 时间:2020-11-09 13:22:52
文档

"Hadoop/MapReduce/HBase"分享总结

"Hadoop/MapReduce/HBase"分享总结:概述: 此分享是关于hadoop生态系统的简单介绍包括起源到相对应用 技术点: 1.hadoop核心包括Common,HDFS和MapReduce;2.Pig,Hbase,Hive,Zookeeper;3.Hadoop日志分析工具Chukwa;4.MR解决的问题:海量输入数据,简单任务划分和集群计算环境;5.执
推荐度:
导读"Hadoop/MapReduce/HBase"分享总结:概述: 此分享是关于hadoop生态系统的简单介绍包括起源到相对应用 技术点: 1.hadoop核心包括Common,HDFS和MapReduce;2.Pig,Hbase,Hive,Zookeeper;3.Hadoop日志分析工具Chukwa;4.MR解决的问题:海量输入数据,简单任务划分和集群计算环境;5.执

概述: 此分享是关于hadoop生态系统的简单介绍包括起源到相对应用 技术点: 1.hadoop核心包括Common,HDFS和MapReduce;2.Pig,Hbase,Hive,Zookeeper;3.Hadoop日志分析工具Chukwa;4.MR解决的问题:海量输入数据,简单任务划分和集群计算环境;5.执行流程

概述:

此分享是关于hadoop生态系统的简单介绍包括起源到相对应用

技术点:

1.hadoop核心包括Common,HDFS和MapReduce;
2.Pig,Hbase,Hive,Zookeeper;
3.Hadoop日志分析工具Chukwa;
4.MR解决的问题:海量输入数据,简单任务划分和集群计算环境;
5.执行流程:FileSplit / Map / Combine(Partition)和Copy / Sort / Reduce 
6.分布式计算包括:作业和任务调度和执行,预测执行,故障处理和针对不同应用环境的优化
7.HDFS可靠性措施:NameNode备份,多数据结点(冗余),数据结点的心跳检测,块报告和完整性检验,NameNode的日志文件和镜像文件;
8.两个系列版本:Apache和Cloudera;
9.SSH无密码访问;
10.内置web服务器:
JobTrackerIP:50030 
TaskTrackerIP:50060 
NamenodeIP:50070 
DatanodeIP:50075 
11.HBase以以Region为单位管理region(startKey,endKey);
12.HBase的每个Column Family单独存储:storeFile;
13.HBase的RegionServer为Region读写操作的场所;
14.HBase的Master管理Region的分配和基于zookeeper来保证HA;
15.HBase的强一致性:同一行数据的读写只在同一台regionserver上进行;
16.HBase的水平伸缩:region的自动分裂以及master的balance,只用增加datanode机器即可增加容量和增加regionserver机器即可增加读写吞吐量;
17.HBase的行事务;
18.HBase三维有序rowKey (ASC) + columnLabel(ASC) + Version (DESC) --> value 
19.HBase支持范围查询和高性能随机写 ;
20.HBase基于Hadoop;
21.HBase不支持二级索引和join操作;
22.Hbase具有特定的适用场景;

详情参见附件



本文附件下载:
  • Hadoop和HBase.pdf (2.1 MB)


  • 已有 0 人发表留言,猛击->> 这里<<-参与讨论


    ITeye推荐
  • —软件人才免语言低担保 赴美带薪读研!—



  • 声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。TEL:177 7030 7066 E-MAIL:11247931@qq.com

    文档

    "Hadoop/MapReduce/HBase"分享总结

    "Hadoop/MapReduce/HBase"分享总结:概述: 此分享是关于hadoop生态系统的简单介绍包括起源到相对应用 技术点: 1.hadoop核心包括Common,HDFS和MapReduce;2.Pig,Hbase,Hive,Zookeeper;3.Hadoop日志分析工具Chukwa;4.MR解决的问题:海量输入数据,简单任务划分和集群计算环境;5.执
    推荐度:
    标签: 分享 总结 hadoop
    • 热门焦点

    最新推荐

    猜你喜欢

    热门推荐

    专题
    Top