構(gòu)建Spark Application的運(yùn)行環(huán)境(啟動(dòng)SparkContext),SparkContext向資源管理器(可以是Standalone、Mesos或YARN)注冊(cè)并申請(qǐng)運(yùn)行Executor資源 查看全文>>
大數(shù)據(jù)技術(shù)文章2018-09-11 |傳智播客 |傳智播客,Spark運(yùn)行架構(gòu)
Spark 在生產(chǎn)環(huán)境下經(jīng)常會(huì)面臨transformation的RDD非常多(例如一個(gè)Job中包含1萬個(gè)RDD)或者具體transformation的RDD本身計(jì)算特別復(fù)雜或者耗時(shí)(例如計(jì)算時(shí)長超過1個(gè)小時(shí)),這個(gè)時(shí)候就要考慮對(duì)計(jì)算結(jié)果數(shù)據(jù)持久化保存 查看全文>>
大數(shù)據(jù)技術(shù)文章2018-09-11 |傳智播客 |傳智播客,spark
這個(gè)安裝過程經(jīng)歷曲折,遇到了許多坑。 環(huán)境:Windows 7 Vm 我用了三臺(tái)虛擬機(jī) centos 192.168.188.128 hadoop1(作為主服務(wù)器) 192.168.188.129 hadoop2 192.168.188.130 hadoop3 查看全文>>
大數(shù)據(jù)技術(shù)文章2018-08-06 |傳智播客 |傳智播客,hadoop
目標(biāo)1:熟練使用scala編寫Spark程序;目標(biāo)2:動(dòng)手編寫一個(gè)簡易版的Spark通信框架;目標(biāo)3:為閱讀Spark內(nèi)核源碼做準(zhǔn)備 查看全文>>
大數(shù)據(jù)技術(shù)文章2018-08-02 |傳智播客 |云計(jì)算,Scala
傳智播客黑馬程序員作為一個(gè)IT學(xué)習(xí)平臺(tái),歷經(jīng)12年的成長,免費(fèi)分享視頻教程長達(dá)10萬余小時(shí),累計(jì)下載量超3000萬次,受益人數(shù)達(dá)千萬。免費(fèi)公開課直播1000余次,聽課人數(shù)近百萬人!2018年我們不忘初心,繼續(xù)前行!新版學(xué)習(xí)路線圖上線,對(duì)云計(jì)算大數(shù)據(jù)感興趣的同學(xué)們,趕緊學(xué)起來吧! 查看全文>>
大數(shù)據(jù)技術(shù)文章2018-05-14 |傳智播客 |云計(jì)算大數(shù)據(jù)
大數(shù)據(jù)實(shí)時(shí)處理平臺(tái)市場上產(chǎn)品眾多,本文著重討論spark與storm的比對(duì),最后結(jié)合適用場景進(jìn)行選型。 查看全文>>
大數(shù)據(jù)技術(shù)文章2018-01-23 |傳智播客 |spark,storm
為了建立冗余較小、結(jié)構(gòu)合理的數(shù)據(jù)庫,設(shè)計(jì)數(shù)據(jù)庫時(shí)必須遵循一定的規(guī)則。在關(guān)系型數(shù)據(jù)庫中這種規(guī)則就稱為范式。范式是符合某一種設(shè)計(jì)要求的總結(jié)。要想設(shè)計(jì)一個(gè)結(jié)構(gòu)合理的關(guān)系型數(shù)據(jù)庫,必須滿足一定的范式。 查看全文>>
大數(shù)據(jù)技術(shù)文章2018-01-10 |傳智播客 |Java面試題
北京校區(qū)