Hadoop带你对比Hadoop MapReduce与Apache Spark( 三 )
Apache Spark以微批的方式执行作业 , 这些作业非常短 , 例如大约不到5秒 。 与面向实时流的Hadoop框架相比 , Apache Spark过去一直在提供更高的稳定性方面取得了成功 。
尽管如此 , 每个硬币都有两个面 , 是的 , Hadoop Spark也存在一些积压 , 例如如果中间数据大于节点的内存大小 , 则无法处理 , 节点故障时的问题 , 最重要的是成本因素 。
Hadoop Spark利用日志记录(也称为“重新计算”)来提供弹性 , 以防万一发生节点故障 , 因此我们可以得出结论 , 节点故障情况下的恢复行为与以下情况相似: Hadoop MapReduce除外 , 事实上恢复过程会更快 。
如果特定节点的RAM不足以存储数据分区 , Spark还具有“溢出磁盘”功能 , 从而为基于磁盘的数据处理提供了适度的降级功能 。
Hadoop MapReduce相对于Apache Spark的一大优势 是 , 如果数据大小大于内存 , 则在这种情况下 , Apache Spark将无法利用其缓存 , 并且很有可能比它慢得多 。MapReduce的批处理 。
困惑的Hadoop与Spark –选择哪一个?
如果让您对Hadoop MapReduce或Apache Spark 感到困惑的问题 ,或者说是选择基于磁盘的计算或基于RAM的计算 , 那么这个问题的答案很简单 。 这全都取决于并且这个决定所依赖的变量会随着时间而动态变化 。
【Hadoop带你对比Hadoop MapReduce与Apache Spark】但是 , 当前的趋势支持诸如Apache Spark之类的内存技术 , 因为行业趋势似乎正在为其提供积极的反馈 。 因此 , 总而言之 , 我们可以说 , 选择Hadoop MapReduce与Apache Spark取决于基于用户的情况 , 我们无法做出自主选择 。
推荐阅读
- 游戏动漫资讯|一张图带你回顾腾讯游戏年度发布会
- 小诺诺带你看情感世界 马云承诺干满10年给2亿分红,如今怎样了,前台小妹因太累要辞职
- 单机时代|FC热血篮球,分析热血队的队员实力对比,当年不知道的打人连招
- 『iphone12』iPhone12全新 5.4 英寸版本到底有多小?实机对比来了
- 机智玩机机|5.4寸iPhone12实机模对比4.7寸苹果7:竟小了一圈!
- 带你华丽变身|T恤格纹裤穿成55分,咋一看更像小女生,谭松韵录节目好接地气
- 爱搞笑的小酷|你老婆带你游街示众。,哥们儿你这是犯啥错了
- 硬糖少女303|硬糖少女303人际关系大分析,毫无团魂凝聚力,对比THE9差距明显!
- 开往未来的列车|对比iOS 14,为什么网友偏爱ColorOS?看完这几点发现后者真香
- |来看军事体育运动会,带你领略速度与力量的激情较量!