這篇文章主要介紹“component的生命周期怎么理解”,在日常操作中,相信很多人在component的生命周期怎么理解問題上存在疑惑,小編查閱了各式資料,整理出簡單好用的操作方法,希望對大家解答”component的生命周期怎么理解”的疑惑有所幫助!接下來,請跟著小編一起來學(xué)習(xí)吧!
在金林等地區(qū),都構(gòu)建了全面的區(qū)域性戰(zhàn)略布局,加強(qiáng)發(fā)展的系統(tǒng)性、市場前瞻性、產(chǎn)品創(chuàng)新能力,以專注、極致的服務(wù)理念,為客戶提供成都網(wǎng)站設(shè)計、做網(wǎng)站 網(wǎng)站設(shè)計制作定制網(wǎng)站制作,公司網(wǎng)站建設(shè),企業(yè)網(wǎng)站建設(shè),高端網(wǎng)站設(shè)計,成都全網(wǎng)營銷,成都外貿(mào)網(wǎng)站制作,金林網(wǎng)站建設(shè)費(fèi)用合理。
storm中的spout,bolt的生命周期,都是storm幫你管理好,你只要新建一個實(shí)例,指定該component的并行數(shù),就可以。那么topology中所用到的工具類的生命周期該如何處理,例如數(shù)據(jù)庫連接池、redis的連接池,這些對象該放在哪里初始化?本文以jdbc連接池為例,討論此問題。閱讀本文前請先自行了解storm topology的運(yùn)行流程。
Storm Component的生命周期
storm component泛指topoloty中的spout、bolt,是spout和bolt的一個統(tǒng)稱。而component生命周期,我結(jié)合storm作者nathanmarz大神的回答和自己的理解,描述一下:
1,當(dāng)提交了topology后,spout、bolt的實(shí)例會在本地機(jī)器(執(zhí)行storm submit所在的機(jī)器)上被創(chuàng)建,并且在本地序列化。另外,所有的component的構(gòu)造函數(shù)、declareOutputFields方法都本地會運(yùn)行一次。
2,整個topology被上傳到nimbus上。
3,對應(yīng)supervisor會向nimbus獲取序列化后的topology代碼,交給對應(yīng)的worker執(zhí)行。
4,每個worker執(zhí)行如下:反序列化代碼,運(yùn)行對應(yīng)component的prepare/open(初始化對應(yīng)的component)。舉個例子,某spout在topology中設(shè)置了3個并行度,且topology設(shè)置了3個worker,該open方法就會在3個不同的worker上分別調(diào)用1次,共調(diào)用3次。
5,worker通知executor不斷循環(huán)去跑nextTuple/execute方法。
需要注意一點(diǎn):component的初始化相關(guān)的操作應(yīng)放在prepare/open方法中執(zhí)行, 而不是在實(shí)例化component的時候進(jìn)行或者topology的main函數(shù)。
Jdbc Pool 初始化方案
參考component的生命周期,能想到有兩種方案:
1,每個component都維持一個與數(shù)據(jù)庫的連接,此種方案適合于寫操作非常頻繁,component數(shù)目比較少,且中間不會有一段時間沒有任何寫、讀操作,否則會發(fā)生MySQL connection timeout;另外可省去從連接池獲取連接,用完連接后返回給連接池這兩步操作。如果確定這種方案,則只要將數(shù)據(jù)庫的配置放到config中,在對應(yīng)的component中初始化數(shù)據(jù)庫連接即可。
2,在每worker中維持一個連接池,worker中所有executor需要用到連接時,從連接池中獲取,用后歸還。一般還是推薦這種方案。
下面說一下第二種方案的連接池,應(yīng)該在什么時候初始化。
首先明確一點(diǎn),在topology運(yùn)行中,一個worker相當(dāng)于jvm進(jìn)程,相當(dāng)于有N個worker,就會有N個連接池。初始化連接池的動作需要在worker端進(jìn)行,一個worker中只有一個連接池的實(shí)例,適合用單例模式。
初始化思路:每個component接收數(shù)據(jù)庫配置信息,在其prepare/open時,初始化連接池,這里需要保證在單個worker中只需要初始化一次就可以,即對初始化的代碼加鎖處理,保證只能有一個component初始化。
在storm源碼包中,提供了storm-jdbc的實(shí)現(xiàn),其中用了JDBC 連接池組件,具體實(shí)現(xiàn)思路就是上面討論的第二種方案。以下為初始化時加鎖的部分。
public class HikariCPConnectionProvider implements ConnectionProvider { private Map<String, Object> configMap; private transient HikariDataSource dataSource; public HikariCPConnectionProvider(Map<String, Object> hikariCPConfigMap) { this.configMap = hikariCPConfigMap; } @Override public synchronized void prepare() { if(dataSource == null) { Properties properties = new Properties(); properties.putAll(configMap); HikariConfig config = new HikariConfig(properties); this.dataSource = new HikariDataSource(config); this.dataSource.setAutoCommit(false); } } @Override public Connection getConnection() { try { return this.dataSource.getConnection(); } catch (SQLException e) { throw new RuntimeException(e); } } @Override public void cleanup() { if(dataSource != null) { dataSource.shutdown(); } } }
看到,初始化prepare被上鎖了,以保證只初始化一次。其實(shí)這里可以再優(yōu)化一下:不要對方法加鎖,而是對具體初始化連接的代碼加鎖,減少鎖影響的范圍。
到此,關(guān)于“component的生命周期怎么理解”的學(xué)習(xí)就結(jié)束了,希望能夠解決大家的疑惑。理論與實(shí)踐的搭配能更好的幫助大家學(xué)習(xí),快去試試吧!若想繼續(xù)學(xué)習(xí)更多相關(guān)知識,請繼續(xù)關(guān)注創(chuàng)新互聯(lián)網(wǎng)站,小編會繼續(xù)努力為大家?guī)砀鄬?shí)用的文章!
網(wǎng)頁題目:component的生命周期怎么理解
文章地址:http://m.kartarina.com/article48/geceep.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供手機(jī)網(wǎng)站建設(shè)、做網(wǎng)站、網(wǎng)站制作、ChatGPT、App開發(fā)、關(guān)鍵詞優(yōu)化
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)