博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
SparkStreaming(2):粗粒度和细粒度总结
阅读量:4281 次
发布时间:2019-05-27

本文共 414 字,大约阅读时间需要 1 分钟。

一、粗粒度

1.工作原理:

(1)Spark Streaming接收到实时数据流(data stream)

(2)Spark Streaming把数据按照指定的时间段切成一片片小的数据块(小批次)

(3)然后Spark Streaming把小的数据块传给Spark Engine处理

(4)Spark Engine处理后,输出处理后的数据(processed result)

 

二、细粒度

1.工作原理:

(1)driver:启动spark应用程序,构建StreamingContext

(2)executor:启动receiver接收器,接收数据

(3)executor:接收input Stream,然后拆分不同block(小块)

(4)executor:receiver将block存储信息发送给StreamingContext

(5)driver:启动job,然后将task提交到对应executor上执行

 

(未完待续~)

转载地址:http://mvygi.baihongyu.com/

你可能感兴趣的文章
DOM笔记(五):JavaScript的常见事件和Ajax小结
查看>>
DOM笔记(六):怎么进行JQuery扩展?
查看>>
搜索和网页排名的数学原理
查看>>
DOM笔记(八):JavaScript执行环境和垃圾收集
查看>>
响应式下的下拉菜单
查看>>
DOM笔记(九):引用类型、基本包装类型和单体内置对象
查看>>
也谈学习
查看>>
DOM笔记(十):JavaScript正则表达式
查看>>
如何高效编写可维护代码?
查看>>
DOM笔记(十一):JavaScript对象的基本认识和创建
查看>>
DOM笔记(十二):又谈原型对象
查看>>
DOM笔记(十三):JavaScript的继承方式
查看>>
CSS:响应式下的折叠菜单(条纹式)
查看>>
响应式设计三部曲
查看>>
45种Javascript技巧大全
查看>>
PDO学习笔记
查看>>
MarkDown语法
查看>>
Linux的文件权限
查看>>
全屏滚动实现:fullPage.js和fullPage
查看>>
SASS小结
查看>>