大數(shù)據(jù)離散流是什么？

更新時(shí)間:2021年01月05日16時(shí)10分來(lái)源:傳智教育瀏覽次數(shù):

Spark Streaming提供了一個(gè)高級(jí)抽象的流，即DStream（離散流）。DStream表示連續(xù)的數(shù)據(jù)流，可以通過Kafka、Flume和Kinesis等數(shù)據(jù)源創(chuàng)建，也可以通過現(xiàn)有DStream的高級(jí)操作來(lái)創(chuàng)建。DStream的內(nèi)部結(jié)構(gòu)如圖1所示。

圖1 DStream流的內(nèi)部結(jié)構(gòu)

從圖1可以看出，DStream的內(nèi)部結(jié)構(gòu)是由一系列連續(xù)的RDD組成，每個(gè)RDD都是一小段時(shí)間分隔開來(lái)的數(shù)據(jù)集。實(shí)際上，對(duì)DStream的任何操作，最終都會(huì)轉(zhuǎn)變成對(duì)底層RDDs的操作。

SparkMllib如何解決回歸問題？[大數(shù)據(jù)培訓(xùn)]

Spark的集群安裝與配置簡(jiǎn)介【大數(shù)據(jù)技術(shù)文章】

傳智教育大數(shù)據(jù)培訓(xùn)課程

上一篇：Scala重寫父類有哪些注意事項(xiàng)？重寫代碼演示 下一篇：兩種RDD的依賴關(guān)系介紹