構(gòu)建Spark Application的運行環(huán)境(啟動SparkContext),SparkContext向資源管理器(可以是Standalone、Mesos或YARN)注冊并申請運行Executor資源 查看全文>>
大數(shù)據(jù)技術(shù)文章2018-09-11 |傳智播客 |傳智播客,Spark運行架構(gòu)
Spark 在生產(chǎn)環(huán)境下經(jīng)常會面臨transformation的RDD非常多(例如一個Job中包含1萬個RDD)或者具體transformation的RDD本身計算特別復(fù)雜或者耗時(例如計算時長超過1個小時),這個時候就要考慮對計算結(jié)果數(shù)據(jù)持久化保存 查看全文>>
大數(shù)據(jù)技術(shù)文章2018-09-11 |傳智播客 |傳智播客,spark
這個安裝過程經(jīng)歷曲折,遇到了許多坑。 環(huán)境:Windows 7 Vm 我用了三臺虛擬機 centos 192.168.188.128 hadoop1(作為主服務(wù)器) 192.168.188.129 hadoop2 192.168.188.130 hadoop3 查看全文>>
大數(shù)據(jù)技術(shù)文章2018-08-06 |傳智播客 |傳智播客,hadoop
目標1:熟練使用scala編寫Spark程序;目標2:動手編寫一個簡易版的Spark通信框架;目標3:為閱讀Spark內(nèi)核源碼做準備 查看全文>>
大數(shù)據(jù)技術(shù)文章2018-08-02 |傳智播客 |云計算,Scala
傳智播客黑馬程序員作為一個IT學(xué)習(xí)平臺,歷經(jīng)12年的成長,免費分享視頻教程長達10萬余小時,累計下載量超3000萬次,受益人數(shù)達千萬。免費公開課直播1000余次,聽課人數(shù)近百萬人!2018年我們不忘初心,繼續(xù)前行!新版學(xué)習(xí)路線圖上線,對云計算大數(shù)據(jù)感興趣的同學(xué)們,趕緊學(xué)起來吧! 查看全文>>
大數(shù)據(jù)技術(shù)文章2018-05-14 |傳智播客 |云計算大數(shù)據(jù)
大數(shù)據(jù)實時處理平臺市場上產(chǎn)品眾多,本文著重討論spark與storm的比對,最后結(jié)合適用場景進行選型。 查看全文>>
大數(shù)據(jù)技術(shù)文章2018-01-23 |傳智播客 |spark,storm
為了建立冗余較小、結(jié)構(gòu)合理的數(shù)據(jù)庫,設(shè)計數(shù)據(jù)庫時必須遵循一定的規(guī)則。在關(guān)系型數(shù)據(jù)庫中這種規(guī)則就稱為范式。范式是符合某一種設(shè)計要求的總結(jié)。要想設(shè)計一個結(jié)構(gòu)合理的關(guān)系型數(shù)據(jù)庫,必須滿足一定的范式。 查看全文>>
大數(shù)據(jù)技術(shù)文章2018-01-10 |傳智播客 |Java面試題