查看: 594|回复: 51
hadoop大数据系列培训教程免费下载
主题帖子积分
资源币939425
热心值648893
hadoop大数据系列极限班培训系列教程
大数据这几年很流行，未来还会发生更大的作用，这套课程就是大数据系列的，资源大亨论坛还有其他大数据系列的教程，感兴趣的可以学习
来自某站的付费VIP教程，资源大亨免费分享。
01.jpg (32.24 KB, 下载次数: 0)
hadoop大数据
12:15 上传
游客，如果您要查看本帖隐藏内容请
主题帖子积分
新手上路, 积分 170, 距离下一级还需 30 积分
新手上路, 积分 170, 距离下一级还需 30 积分
是不是可以拿到淘宝上去卖教程呢
主题帖子积分
中级会员, 积分 242, 距离下一级还需 258 积分
中级会员, 积分 242, 距离下一级还需 258 积分
谢谢露珠分享 很有用的资料
主题帖子积分
新手上路, 积分 141, 距离下一级还需 59 积分
新手上路, 积分 141, 距离下一级还需 59 积分
说的杀毒按时打算
主题帖子积分
新手上路, 积分 72, 距离下一级还需 128 积分
新手上路, 积分 72, 距离下一级还需 128 积分
谢谢人，好好学习
主题帖子积分
中级会员, 积分 366, 距离下一级还需 134 积分
中级会员, 积分 366, 距离下一级还需 134 积分
主题帖子积分
资源币7918
大数据是未来所有公司都应该重视应用的领域
主题帖子积分
新手上路, 积分 103, 距离下一级还需 97 积分
新手上路, 积分 103, 距离下一级还需 97 积分
主题帖子积分
新手上路, 积分 138, 距离下一级还需 62 积分
新手上路, 积分 138, 距离下一级还需 62 积分
主题帖子积分
中级会员, 积分 275, 距离下一级还需 225 积分
中级会员, 积分 275, 距离下一级还需 225 积分
DFSDFSDFSDFSDFSDFSDF
积极宣传本站，为本站带来更多注册会员
积极宣传本站，为本站带来更多的用户访问量
长期对论坛的繁荣而不断努力，或多次提出建设性意见
活跃且尽责职守的版主
虽然不是管理！但也很荣誉！
Powered by
一直用心在做大数据技术Hadoop面试题,看看你能答对多少？-Ha
大数据技术Hadoop面试题,看看你能答对多少？-Ha
1. 下面哪个程序负责 HDFS 数据存储。 a)NameNode b)Jobtracker c)Datanode d)secondaryNameNode e)tasktracker 答案C datanode 2. HDfS 中的 block 默认保存几份？ a)3 份 b)2 份c)1 份d)不确定 答案A默认3分 3. 下列哪
1. 下面哪个程序负责 HDFS 数据存储。 a)NameNode b)Jobtracker c)Datanode d)secondaryNameNode e)tasktracker
答案C datanode
2. HDfS 中的 block 默认保存几份？ a)3 份 b)2 份c)1 份d)不确定
答案A默认3分
3. 下列哪个程序通常与 NameNode 在一个节点启动？ a)SecondaryNameNode b)DataNode c)TaskTracker d)Jobtracker
答案D 分析： 的集群是基于master/slave模式，namenode和jobtracker属于master，datanode和tasktracker属于slave，master只有一个，而slave有多个
SecondaryNameNode内存需求和NameNode在一个数量级上，所以通常secondary NameNode（运行在单独的物理机器上）和NameNode运行在不同的机器上。 JobTracker和TaskTracker JobTracker 对应于 NameNode TaskTracker 对应于 DataNode DataNode 和NameNode 是针对数据存放来而言的 JobTracker和TaskTracker是对于MapReduce执行而言的
mapreduce中几个主要概念，mapreduce整体上可以分为这么几条执行线索： jobclient，JobTracker与TaskTracker。 1、JobClient会在用户端通过JobClient类将应用已经配置参数打包成jar文件存储到hdfs， 并把路径提交到Jobtracker,然后由JobTracker创建每一个Task（即MapTask和ReduceTask） 并将它们分发到各个TaskTracker服务中去执行 2、JobTracker是一个master服务，软件启动之后JobTracker接收Job，负责调度Job的每一个子任务task运行于TaskTracker上， 并监控它们，如果发现有失败的task就重新运行它。一般情况应该把JobTracker部署在单独的机器上。 3、TaskTracker是运行在多个节点上的slaver服务。TaskTracker主动与JobTracker通信，接收作业，并负责直接执行每一个任务。 TaskTracker都需要运行在HDFS的DataNode上
4. Hadoop 作者 a)Martin Fowler b)Kent Beck c)Doug cutting
答案C Doug cutting
5. HDFS 默认 Block Size a)32MB b)64MB c)128MB
答案：B (因为版本更换较快，这里答案只供参考)
6. 下列哪项通常是集群的最主要瓶颈 a)CPU b)网络 c)磁盘IO d)内存
答案：C磁盘 首先集群的目的是为了节省成本，用廉价的pc机，取代小型机及大型机。小型机和大型机有什么特点？
1.cpu处理能力强 2.内存够大 所以集群的瓶颈不可能是a和d 3.网络是一种稀缺资源，但是并不是瓶颈。
4.由于大数据面临海量数据，读写数据都需要io，然后还要冗余数据，hadoop一般备3份数据，所以IO就会打折扣。 同样可以参考下面内容（磁盘IO：磁盘输出输出） 对于磁盘IO：当我们面临集群作战的时候，我们所希望的是即读即得。可是面对大数据，读取数据需要经过IO，这里可以把IO理解为水的管道。管道越大越强，我们对于T级的数据读取就越快。所以IO的好坏，直接影响了集群对于数据的处理。 集群瓶颈：磁盘IO必读 集群瓶颈为什么磁盘io
7. 关于 SecondaryNameNode 哪项是正确的？ a)它是 NameNode 的热备
b)它对内存没有要求 c)它的目的是帮助 NameNode 合并编辑日志，减少 NameNode 启动时间 d)SecondaryNameNode 应与 NameNode 部署到一个节点
答案C。 D答案可以参考第三题
多选题： 8. 下列哪项可以作为集群的管理？ a)Puppet b)Pdsh c)Cloudera Manager d)Zookeeper
答案1：ABD 具体可查看
二次整理 修改后答案：ABC 分析： A：puppetpuppet是一种Linux、Unix、windows平台的集中配置管理系统 B：pdsh可以实现在在多台机器上执行相同的命令 详细参考： C：可以参考Cloudera Manager四大功能【翻译】 首先这里给管理下一个定义：部署、配置、调试、监控，属于管理 因为zookeeper不满足上面要求，所以不纳入管理范围。
9. 配置机架感知的下面哪项正确 a)如果一个机架出问题，不会影响数据读写 b)写入数据的时候会写到不同机架的 DataNode 中 c)MapReduce 会根据机架获取离自己比较近的网络数据
答案ABC 具体可以参考
10. Client 端上传文件的时候下列哪项正确 a)数据经过 NameNode 传递给 DataNode b)Client 端将文件切分为 Block，依次上传 c)Client 只上传数据到一台 DataNode，然后由 NameNode 负责 Block 复制工作 答案B 分析： Client向NameNode发起文件写入的请求。
NameNode根据文件大小和文件块配置情况，返回给Client它所管理部分DataNode的信息。
Client将文件划分为多个Block，根据DataNode的地址信息，按顺序写入到每一个DataNode块中。 具体查看
11. 下列哪个是 Hadoop 运行的模式 a)单机版 b)伪分布式 c)分布式
12. Cloudera 提供哪几种安装 CDH 的方法 a)Cloudera manager b)Tarball c)Yum d)Rpm 答案：ABCD具体可以参考
判断题： 13. Ganglia 不仅可以进行监控，也可以进行告警。（ 正确） 分析： 此题的目的是考Ganglia的了解。严格意义上来讲是正确。
ganglia作为一款最常用的Linux环境中的监控软件，它擅长的的是从节点中按照用户的需求以较低的代价采集数据。但是ganglia在预警以及发生事件后通知用户上并不擅长。最新的ganglia已经有了部分这方面的功能。但是更擅长做警告的还有Nagios。Nagios，就是一款精于预警、通知的软件。通过将Ganglia和Nagios组合起来，把Ganglia采集的数据作为Nagios的数据源，然后利用Nagios来发送预警通知，可以完美的实现一整套监控管理的系统。 具体可以查看 完美集群监控组合ganglia和nagios
14. Block Size 是不可以修改的。（错误 ） 它是可以被修改的
Hadoop的基础配置文件是hadoop-default.xml，默认建立一个Job的时候会建立Job的Config，Config首先读入 hadoop-default.xml的配置，然后再读入hadoop-site.xml的配置（这个文件初始的时候配置为空），hadoop- site.xml中主要配置需要覆盖的hadoop-default.xml的系统级配置。具体配置可以参考下
&property&
&name&dfs.block.size&/name&//block的大小，单位字节，后面会提到用处，必须是512的倍数，因为采用crc作文件完整性校验，默认配置512是checksum的最小单元。
&value&5120000&/value&
&description&The default block size for new files.&/description&
&/property&
(责任编辑：admin)
转载请注明链接：
------分隔线----------------------------
网页标题：
以下是网友对的评论:当前位置： >
解析：大数据技术Hadoop面试题 14:26:34&|&编辑：hely&|&查看：&|&评论：
在互联网高速发展的今天，很多人还没有搞清楚什么是PC互联网，移动互联网来了，我们还没搞清楚移动互联网的时候，大数据时代又来了。
在互联网高速发展的今天，很多人还没有搞清楚什么是PC互联网，移动互联网来了，我们还没搞清楚移动互联网的时候，又来了。大数据已经无处不在，随之而来的就是人才的急需，以下是关于的面试问题，大家可以再面试前参考。
单项选择题
1. 下面哪个程序负责 HDFS 数据存储。
a)NameNode& &b)Jobtracker& &c)Datanode& &d)secondaryNameNode&& e)tasktracker
2. HDfS 中的 block 默认保存几份?
a)3 份 b)2 份 c)1 份 d)不确定
3. 下列哪个程序通常与 NameNode 在一个节点启动?
a)SecondaryNameNode& &b)DataNode&& c)TaskTracker&& d)Jobtracker
4. Hadoop 作者
a)Martin Fowler& &b)Kent Beck&& c)Doug cutting
5. HDFS 默认 Block Size
a)32MB& &b)64MB&& c)128MB
6. 下列哪项通常是集群的最主要瓶颈
a)CPU b)网络 c)磁盘 d)内存
7. 关于 SecondaryNameNode 哪项是正确的?
a)它是 NameNode 的热备
b)它对内存没有要求
c)它的目的是帮助 NameNode 合并编辑日志，减少 NameNode 启动时间
d)SecondaryNameNode 应与 NameNode 部署到一个节点
8. 下列哪项可以作为集群的管理工具
a)Puppet& &b)Pdsh& &c)Cloudera Manager&& d)Zookeeper
9. 配置机架感知的下面哪项正确
a)如果一个机架出问题，不会影响数据读写
b)写入数据的时候会写到不同机架的 DataNode 中
c)MapReduce 会根据机架获取离自己比较近的网络数据
10. Client 端上传文件的时候下列哪项正确
a)数据经过 NameNode 传递给 DataNode
b)Client 端将文件切分为 Block，依次上传
c)Client 只上传数据到一台 DataNode，然后由 NameNode 负责 Block 复制工作
11. 下列哪个是 Hadoop 运行的模式
a)单机版 b)伪分布式 c)分布式
12. Cloudera 提供哪几种安装 CDH 的方法
a)Cloudera manager b)Tar ball c)Yum d)Rpm
13. Ganglia 不仅可以进行监控，也可以进行告警。( )
14. Block Size 是不可以修改的。( )
15. Nagios 不可以监控 Hadoop 集群，因为它不提供 Hadoop 支持。( )
16. 如果 NameNode 意外终止，SecondaryNameNode 会接替它使集群继续工作。( )
17. Cloudera CDH 是需要付费使用的。( )
18. Hadoop 是 Java 开发的，所以 MapReduce 只支持 Java 语言编写。( )
19. Hadoop 支持数据的随机读写。( )
20. NameNode 负责管理 metadata，client 端每次读写请求，它都会从磁盘中读取或则会写入 metadata 信息并反馈 client 端。( )
21. NameNode 本地磁盘保存了 Block 的位置信息。( )
22. DataNode 通过长连接与 NameNode 保持通信。( )
23. Hadoop 自身具有严格的权限管理和安全措施保障集群正常运行。( )
24. Slave 节点要存储数据，所以它的磁盘越大越好。( )
25. hadoop dfsadmin &report 命令用于检测 HDFS 损坏块。( )
26. Hadoop 默认调度器策略为 FIFO( )
27. 集群内每个节点都应该配 RAID，这样避免单磁盘损坏，影响整个节点运行。( )
28. 因为 HDFS 有多个副本，所以 NameNode 是不存在单点问题的。( )
29. 每个 map 槽就是一个线程。( )
30. Mapreduce 的 input split 就是一个 block。( )
31. NameNode 的 Web UI 端口是 50030，它通过 jetty 启动的 Web 服务。( )
32. Hadoop 环境变量中的 HADOOP_HEAPSIZE 用于设置所有 Hadoop 守护线程的内存。它默认是 200 GB。( )
33. DataNode 首次加入 cluster 的时候，如果 log 中报告不兼容文件版本，那需要 NameNode执行&Hadoop namenode -format&操作格式化磁盘。( )
相关阅读：
搜索"raincent"或扫描下面的二维码最近经历的一些大数据（Spark/Hadoop）面试题
我的图书馆
最近经历的一些大数据（Spark/Hadoop）面试题
2828人阅读
-----编程珠玑
大数据（18）
-----Spark（34）
版权声明：本文为博主原创文章，未经博主允许不得转载。
1.讲讲你做的过的项目。 项目里有哪些 难点重点注意点呢？
2.讲讲多线程吧， 要是你，你怎么实现一个线程池呢？
3.讲一下Mapreduce或者hdfs的原理和机制。map读取数据分片。
4.shuffle 是什么？ 怎么调优？
5.项目用什么语言写？ ？ Scala的特点？ 和的区别？
6.理论基础怎么样，比如，里面的快速排序，或者，树？ 讲一讲你了解的树的知识？
7.数学怎么样呢？
8.讲一下，SQl ，左外连接， 原理，实现？
9.还了解过数据的什么知识？ 数据库引擎？10.Hadoop的机架怎么配置的？11.Hbase的设计有什么心得？12.Hbase的操作是用的什么API还是什么工具？
13.对调度怎么理解.? 用什么工具吗？
14.用kettle 这种工具还是 自己写程序？ 你们公司是怎么做的？
15.你们数据中心开发周期是多长？16.你们hbase里面是存一些什么数据。
二面。三个人。
1.讲讲你做的项目。
2.平时 对多线程 这方面是怎么处理呢？ 异步 是怎么思考呢？ 遇到的一些锁啊， 是怎么做的呢？ 比如两个人同时操作一样东西。怎么做的呢？一些并发操作设计到一些变量怎么做的呢？
3.你们用的最多是 http协议吧？ 有没有特殊的头呢？ 讲讲 你对tcp/ip的理解？4.有没有用过Zookeeper呢？ Zookeeper的适用场景是什么？ HA 状态维护 分布式锁 全局配置文件管理 操作Zookeeper是用的什么？
5.spark开发分两个方面？哪两个方面呢？
6.比如 一个读取hdfs上的文件，然后count有多少行的操作，你可以说说过程吗。那这个count是在内存中，还是磁盘中计算的呢？磁盘中。7.spark和Mapreduce快？ 为什么快呢？ 快在哪里呢？ 1.内存迭代。2.RDD设计。 3,算子的设计。8.spark sql又为什么比hive快呢？10.RDD的数据结构是怎么样的？ Partition数组。 dependence11.hadoop的生态呢。说说你的认识。 hdfs底层存储 hbase 数据库 hive数据仓库 Zookeeper分布式锁 spark大数据分析
1.Spark工作的一个流程。
提交任务。
QQ图片11.png
用户提交一个任务。 入口是从sc开始的。 sc会去创建一个taskScheduler。根据不同的提交模式， 会根据相应的taskchedulerImpl进行任务调度。
同时会去创建Scheduler和DAGScheduler。DAGScheduler 会根据RDD的宽依赖或者窄依赖，进行阶段的划分。划分好后放入taskset中，交给taskscheduler 。
appclient会到master上注册。首先会去判断数据本地化，尽量选最好的本地化模式去执行。
打散 Executor选择相应的Executor去执行。ExecutorRunner会去创建CoarseGrainerExecutorBackend进程。 通过线程池的方式去执行任务。
Executor向 SchedulerBackend反向注册
Spark On Yarn模式下。 driver负责计算调度。appmaster 负责资源的申请。
2.的PUT的一个过程。
3.RDD算子里操作一个外部map比如往里面put数据。然后算子外再遍历map。有什么问题吗。
4.shuffle的过程。调优。
5.5个partition里面分布有.用算子求最大值或者和。不能用广播变量和累加器。或者sortbykey.
6.大表和小表join.7.知道spark怎么读hbase吗？spark on hbase.。华为的。8.做过hbase的二级索引吗？9.sort shuffle的优点？10.stage怎么划分的？ 宽依赖窄依赖是什么？
1.讲讲你做过的项目(一个整体思路)2.问问大概情况。公司里集群规模。hbase数据量。数据规模。3.然后挑选数据工厂开始详细问。问hbase.。加闲聊。4.问二次排序是什么。topn是什么。二次排序要继承什么接口？5.计算的数据怎么来的。6.kakfadirect是什么，。为什么要用这个，有什么优点？。和其他的有什么区别。
http://blog.csdn.net/erfucun/article/details/
* Create an input stream that directly pulls messages from Kafka Brokers
* without using any receiver. This stream can guarantee that each message
* from Kafka is included in transformations exactly once (see points below).
* Points to note:
- No receivers: This stream does not use any receiver. It directly queries Kafka
- Offsets: This does not use Zookeeper to store offsets. The consumed offsets are tracked
by the stream itself. For interoperability with Kafka monitoring tools that depend on
Zookeeper, you have to update Kafka/Zookeeper yourself from the streaming application.
You can access the offsets used in each batch from the generated RDDs (see
[[org.apache.spark.streaming.kafka.HasOffsetRanges]]).
- Failure Recovery: To recover from driver failures, you have to enable checkpointing
in the [[StreamingContext]]. The information on consumed offset can be
recovered from the checkpoint. See the programming guide for details (constraints, etc.).
- End-to-end semantics: This stream ensures that every records is effectively received and
transformed exactly once, but gives no guarantees on whether the transformed data are
outputted exactly once. For end-to-end exactly-once semantics, you have to either ensure
that the output operation is idempotent, or use transactions to output records atomically.
See the programming guide for more details.
* @param ssc StreamingContext object
* @param kafkaParams Kafka &a href="http://kafka.apache.org/documentation.html#configuration"&
configuration parameters&/a&. Requires "metadata.broker.list" or "bootstrap.servers"
to be set with Kafka broker(s) (NOT zookeeper servers) specified in
host1:port1,host2:port2 form.
* @param fromOffsets Per-topic/partition Kafka offsets defining the (inclusive)
starting point of the stream
* @param messageHandler Function for translating each message and metadata into the desired type
7.问了shuffle过程。8.怎么调优的，jvm怎么调优的？9.jvm结构？堆里面几个区？10.数据清洗怎么做的？11.怎么用spark做数据清洗12.跟我聊了spark的应用，商场里广告投放，以及黄牛检测13.spark读取 数据，是几个Partition呢？ hdfs几个block 就有几个 Partition？14.spark on yarn的两种模式? client 模式？ 和cluster模式？15.jdbc？mysql的驱动包名字叫什么？16.region多大会分区？
1.说说Mapreduce？一整个过程的理解。讲一下。2.hbase存数据用什么rowkey？加时间戳的话，会不会出现时间戳重复的问题，怎么做的呢？3.Spring的两大模块？ AOP，IOC在你们项目中分别是怎么用的呢？4.你们集群的规模， 数据量？
1.画图，画Spark的工作模式，部署分布架构图
2.画图，画图讲解spark工作流程。以及在集群上和各个角色的对应关系。
3.java自带有哪几种线程池。4.数据是怎么收集的。 kafka收集数据的原理？5.画图，讲讲shuffle的过程。那你怎么在编程的时候注意避免这些性能问题。6.讲讲列式存储的 parquet文件底层格式。7.dataset和dataframe？8.通过什么方式学习spark的？9.有哪些数据倾斜，怎么解决？10.宽依赖窄依赖？11.yarn的原理？12.BlockManager怎么管理硬盘和内存的。13.哪些算子操作涉及到shuffle14.看过源码？ 你熟悉哪几个部分的源码？15.集群上 nodemanager和ResourceManager的数量关系？16.spark怎么整合hive？ 大概这样。 spark on hive 。 hive还是hive 执行引擎是spark。
其他人的：
1.Spark如何处理结构化数据，Spark如何处理非结构话数据？2.Spark性能优化主要有哪些手段？3.简要描述Spark分布式集群搭建的步骤4.对于Spark你觉得他对于现有大数据的现状的优势和劣势在哪里？5.对于算法是否进行过自主的研究设计？6.简要描述你了解的一些数据挖掘算法与内容 基本我有印象的就这几个问题，聊了2个多小时，脑子都差点被问干了
TA的最新馆藏
喜欢该文的人也喜欢寰?俊鎼滅储bigdata029 | 閭}