本發(fā)明涉及數(shù)據(jù)處理,特別涉及一種低資源需求的手機(jī)號(hào)碼大數(shù)據(jù)通用數(shù)據(jù)庫構(gòu)建方法。
背景技術(shù):
1、目前,在這個(gè)信息化的時(shí)代,與手機(jī)號(hào)碼綁定的信息越來越多,涉及到我們的衣食住行等生活的方方面面,根據(jù)手機(jī)號(hào)碼,能夠快速地記錄處理查詢與之相關(guān)地信息,然后在此基礎(chǔ)上進(jìn)行大數(shù)據(jù)分析和利用,成為我們一個(gè)值得探究的話題;
2、如今常見的做法是采用分布式文件系統(tǒng),如hadoop?distributed?file?system(hdfs)等;列式數(shù)據(jù)庫,如apache?hbase等;nosql數(shù)據(jù)庫,如mongodb等;內(nèi)存數(shù)據(jù)庫,如apache?ignite、memsql等;關(guān)系型數(shù)據(jù)庫,如mysql等;這些方法雖然能夠?qū)崿F(xiàn)功能,而且高度可擴(kuò)展、容錯(cuò)性強(qiáng),非常適合海量非結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ),提供高可用性和可靠性,但是這都為了滿足通用的要求有太多復(fù)雜的功能,有如下幾個(gè)常見的缺點(diǎn):
3、需要復(fù)雜的安裝配置維護(hù)的過程,不夠輕量,不夠綠色,增加了維護(hù)成本;
4、因?yàn)闆]有針對(duì)性的優(yōu)化,存儲(chǔ)億級(jí)別手機(jī)號(hào)碼的關(guān)聯(lián)信息,需要大量的服務(wù)器資源,增加硬件成本;
5、針對(duì)存儲(chǔ)億級(jí)別手機(jī)號(hào)碼的關(guān)聯(lián)信息,數(shù)據(jù)備份和重新初始化速度太慢,當(dāng)需要快速重啟服務(wù),快速重新部署,快速備份時(shí),不能滿足要求;
6、因?yàn)橥ㄓ?,?dǎo)致從大量數(shù)據(jù)中進(jìn)行查詢和處理的時(shí)候,耗費(fèi)大量的系統(tǒng)資源,查詢效率不穩(wěn)定很難支撐高并發(fā)的穩(wěn)定高效查詢;
7、因此,為了克服上述缺陷,本發(fā)明提供了一種低資源需求的手機(jī)號(hào)碼大數(shù)據(jù)通用數(shù)據(jù)庫構(gòu)建方法。
技術(shù)實(shí)現(xiàn)思路
1、本發(fā)明提供一種低資源需求的手機(jī)號(hào)碼大數(shù)據(jù)通用數(shù)據(jù)庫構(gòu)建方法,用以通過確定與手機(jī)號(hào)碼強(qiáng)關(guān)聯(lián)的數(shù)據(jù)類型,實(shí)現(xiàn)根據(jù)數(shù)據(jù)類型定義對(duì)應(yīng)的通用數(shù)據(jù)庫,從而便于將手機(jī)號(hào)碼關(guān)聯(lián)的不同類型數(shù)據(jù)進(jìn)行有效的管理,其次,對(duì)手機(jī)號(hào)碼進(jìn)行拆分,實(shí)現(xiàn)對(duì)不同手機(jī)號(hào)碼對(duì)應(yīng)的尋址地址進(jìn)行準(zhǔn)確有效的確定,從而便于對(duì)海量數(shù)據(jù)進(jìn)行快速準(zhǔn)確的存儲(chǔ)和查詢,最后,通過通用接口對(duì)通用數(shù)據(jù)庫進(jìn)行多維度管理配置,并將多維度管理配置后的通用數(shù)據(jù)庫進(jìn)行差異部署,確保構(gòu)建的通用數(shù)據(jù)庫能夠有效運(yùn)行,滿足不同環(huán)境的部署需求,同時(shí),降低了資源需求量,提高了對(duì)手機(jī)號(hào)碼相關(guān)數(shù)據(jù)的存儲(chǔ)效率和管理效果。
2、本發(fā)明提供了一種低資源需求的手機(jī)號(hào)碼大數(shù)據(jù)通用數(shù)據(jù)庫構(gòu)建方法,包括:
3、步驟1:獲取與手機(jī)號(hào)碼強(qiáng)關(guān)聯(lián)的數(shù)據(jù)類型,并基于數(shù)據(jù)類型配置多維度通用接口,且基于配置結(jié)果自動(dòng)加載生成通用數(shù)據(jù)庫;
4、步驟2:基于預(yù)設(shè)號(hào)碼拆分規(guī)則對(duì)手機(jī)號(hào)碼進(jìn)行拆分,并將拆分得到號(hào)碼段作為尋址地址;
5、步驟3:基于尋址地址對(duì)通用數(shù)據(jù)庫進(jìn)行地址標(biāo)記,并基于多維度通用接口對(duì)地址標(biāo)記后的通用數(shù)據(jù)庫進(jìn)行多維度管理配置;
6、步驟4:基于多維度管理配置結(jié)果將通用數(shù)據(jù)庫轉(zhuǎn)換為部署文件,并基于部署要求對(duì)部署文件進(jìn)行多類別終端差異部署。
7、優(yōu)選的,一種低資源需求的手機(jī)號(hào)碼大數(shù)據(jù)通用數(shù)據(jù)庫構(gòu)建方法,步驟1中,獲取與手機(jī)號(hào)碼強(qiáng)關(guān)聯(lián)的數(shù)據(jù)類型,包括:
8、基于大數(shù)據(jù)網(wǎng)絡(luò)獲取與手機(jī)號(hào)碼相關(guān)聯(lián)的多維度數(shù)據(jù),并基于預(yù)設(shè)關(guān)聯(lián)指標(biāo)對(duì)多維度數(shù)據(jù)進(jìn)行時(shí)間序列解析,得到多維度數(shù)據(jù)的狀態(tài)改變特征;
9、基于狀態(tài)改變特征將多維度數(shù)據(jù)劃分為直接關(guān)聯(lián)數(shù)據(jù)和待分析數(shù)據(jù),并基于時(shí)間序列解析結(jié)果確定待分析數(shù)據(jù)的數(shù)據(jù)規(guī)律特征;
10、基于數(shù)據(jù)規(guī)律特征確定手機(jī)號(hào)碼與待分析數(shù)據(jù)的因果關(guān)系,并基于因果關(guān)系確定待分析數(shù)據(jù)與手機(jī)號(hào)碼的關(guān)聯(lián)程度,且將關(guān)聯(lián)程度大于預(yù)設(shè)閾值的待分析數(shù)據(jù)進(jìn)行提??;
11、將提取結(jié)果和直接關(guān)聯(lián)數(shù)據(jù)進(jìn)行匯總,得到手機(jī)號(hào)碼的強(qiáng)關(guān)聯(lián)數(shù)據(jù),并基于強(qiáng)關(guān)聯(lián)數(shù)據(jù)的數(shù)據(jù)屬性確定與手機(jī)號(hào)碼強(qiáng)關(guān)聯(lián)的數(shù)據(jù)類型。
12、優(yōu)選的,一種低資源需求的手機(jī)號(hào)碼大數(shù)據(jù)通用數(shù)據(jù)庫構(gòu)建方法,步驟1中,基于數(shù)據(jù)類型配置多維度通用接口,且基于配置結(jié)果自動(dòng)加載生成通用數(shù)據(jù)庫,包括:
13、獲取通用數(shù)據(jù)庫的業(yè)務(wù)需求,并基于業(yè)務(wù)需求確定通用接口的配置項(xiàng)目;
14、基于配置項(xiàng)目調(diào)取相應(yīng)的接口函數(shù),并基于接口函數(shù)對(duì)通用接口進(jìn)行功能適配;
15、基于功能適配結(jié)果對(duì)通用接口添加數(shù)據(jù)庫連接參數(shù),并基于添加結(jié)果將通用接口和得到的數(shù)據(jù)類型進(jìn)行綁定;
16、將綁定結(jié)果和數(shù)據(jù)類型封裝為自啟動(dòng)加載文件,并基于自啟動(dòng)加載文件自動(dòng)加載生成通用數(shù)據(jù)庫。
17、優(yōu)選的,一種低資源需求的手機(jī)號(hào)碼大數(shù)據(jù)通用數(shù)據(jù)庫構(gòu)建方法,基于數(shù)據(jù)類型配置多維度通用接口,其中,多維度通用接口包括數(shù)據(jù)長(zhǎng)度獲取接口、序列化接口、反序列化接口、查詢接口以及數(shù)據(jù)清理接口。
18、優(yōu)選的,一種低資源需求的手機(jī)號(hào)碼大數(shù)據(jù)通用數(shù)據(jù)庫構(gòu)建方法,步驟2中,基于預(yù)設(shè)號(hào)碼拆分規(guī)則對(duì)手機(jī)號(hào)碼進(jìn)行拆分,并將拆分得到號(hào)碼段作為尋址地址,包括:
19、基于預(yù)設(shè)號(hào)碼拆分規(guī)則確定對(duì)手機(jī)號(hào)碼的分割點(diǎn),并基于分割點(diǎn)對(duì)手機(jī)號(hào)碼進(jìn)行規(guī)則拆分;
20、基于規(guī)則拆分結(jié)果得到號(hào)碼段,并基于預(yù)設(shè)定義分別確定各號(hào)碼段的級(jí)別優(yōu)先級(jí);
21、基于級(jí)別優(yōu)先級(jí)對(duì)號(hào)碼段添加附屬標(biāo)簽,并基于添加結(jié)果將號(hào)碼段進(jìn)行按位排序,且基于排序結(jié)果得到尋址地址。
22、優(yōu)選的,一種低資源需求的手機(jī)號(hào)碼大數(shù)據(jù)通用數(shù)據(jù)庫構(gòu)建方法,步驟3中,基于尋址地址對(duì)通用數(shù)據(jù)庫進(jìn)行地址標(biāo)記,并基于多維度通用接口對(duì)地址標(biāo)記后的通用數(shù)據(jù)庫進(jìn)行多維度管理配置,包括:
23、獲取得到的尋址地址,并將尋址地址轉(zhuǎn)換為地址索引字符,同時(shí),在通用數(shù)據(jù)庫中創(chuàng)建地址關(guān)聯(lián)表,并將尋址地址和地址索引字符在關(guān)聯(lián)表中進(jìn)行映射,且基于映射結(jié)果完成對(duì)通用數(shù)據(jù)的地址標(biāo)記;
24、獲取對(duì)地址標(biāo)記后的通用數(shù)據(jù)庫的多維度管理項(xiàng)目,并基于多維度通用接口根據(jù)多維度管理項(xiàng)目對(duì)地址標(biāo)記后的通用數(shù)據(jù)庫進(jìn)行多維度管理配置。
25、優(yōu)選的,一種低資源需求的手機(jī)號(hào)碼大數(shù)據(jù)通用數(shù)據(jù)庫構(gòu)建方法,基于多維度通用接口根據(jù)多維度管理項(xiàng)目對(duì)地址標(biāo)記后的通用數(shù)據(jù)庫進(jìn)行多維度管理配置,包括:
26、當(dāng)對(duì)通用數(shù)據(jù)庫進(jìn)行數(shù)據(jù)存儲(chǔ)配置時(shí):
27、獲取對(duì)手機(jī)號(hào)的拆分結(jié)果,并基于拆分結(jié)果分別對(duì)每一號(hào)碼段建立對(duì)應(yīng)字符長(zhǎng)度的數(shù)組;
28、基于號(hào)碼段的排列順序按位從相應(yīng)數(shù)組中匹配對(duì)應(yīng)的指標(biāo)數(shù),并將指標(biāo)數(shù)作為對(duì)應(yīng)手機(jī)號(hào)碼的內(nèi)存管理地址;
29、基于內(nèi)存管理地址確定內(nèi)存塊,并獲取手機(jī)號(hào)碼對(duì)應(yīng)的待存儲(chǔ)數(shù)據(jù);
30、確定待存儲(chǔ)數(shù)據(jù)的數(shù)據(jù)長(zhǎng)度,并基于預(yù)設(shè)擴(kuò)充規(guī)則根據(jù)數(shù)據(jù)長(zhǎng)度對(duì)內(nèi)存塊進(jìn)行自適應(yīng)擴(kuò)充;
31、基于通用接口對(duì)待存儲(chǔ)數(shù)據(jù)進(jìn)行序列化處理,得到待存儲(chǔ)數(shù)據(jù)對(duì)應(yīng)的二進(jìn)制字符串,并基于擴(kuò)充結(jié)果對(duì)待存儲(chǔ)數(shù)據(jù)的二進(jìn)制字符串進(jìn)行壓縮存儲(chǔ)。
32、優(yōu)選的,一種低資源需求的手機(jī)號(hào)碼大數(shù)據(jù)通用數(shù)據(jù)庫構(gòu)建方法,基于多維度通用接口根據(jù)多維度管理項(xiàng)目對(duì)地址標(biāo)記后的通用數(shù)據(jù)庫進(jìn)行多維度管理配置,包括:
33、當(dāng)對(duì)通用數(shù)據(jù)庫進(jìn)行數(shù)據(jù)查詢配置時(shí):
34、獲取手機(jī)號(hào)碼的拆分結(jié)果,并基于拆分結(jié)果鎖定手機(jī)號(hào)碼不同號(hào)碼段對(duì)應(yīng)的內(nèi)存地址;
35、基于不同號(hào)碼段對(duì)應(yīng)的內(nèi)存地址進(jìn)行尋址,并基于尋址結(jié)果得到手機(jī)號(hào)碼對(duì)應(yīng)的內(nèi)存塊;
36、基于通用接口根據(jù)數(shù)據(jù)查詢長(zhǎng)度對(duì)內(nèi)存塊中的數(shù)據(jù)進(jìn)行遍歷,并基于遍歷結(jié)果鎖定相應(yīng)長(zhǎng)度的目標(biāo)二進(jìn)制字符串;
37、提取目標(biāo)二進(jìn)制字符串的數(shù)據(jù)來源屬性,并基于通用接口將數(shù)據(jù)來源屬性與手機(jī)號(hào)碼進(jìn)行參數(shù)比對(duì),且在比對(duì)通過后將目標(biāo)二進(jìn)制字符串進(jìn)行反序列處理;
38、將反序列處理結(jié)果進(jìn)行結(jié)果返回。
39、優(yōu)選的,一種低資源需求的手機(jī)號(hào)碼大數(shù)據(jù)通用數(shù)據(jù)庫構(gòu)建方法,基于多維度通用接口根據(jù)多維度管理項(xiàng)目對(duì)地址標(biāo)記后的通用數(shù)據(jù)庫進(jìn)行多維度管理配置,包括:
40、當(dāng)對(duì)通用數(shù)據(jù)庫進(jìn)行數(shù)據(jù)備份和恢復(fù)配置時(shí):
41、獲取通用數(shù)據(jù)庫中的數(shù)據(jù)量規(guī)模,并基于數(shù)據(jù)量規(guī)模確定對(duì)通用數(shù)據(jù)庫的階梯備份文件量;
42、基于階梯備份文件量確定手機(jī)號(hào)碼對(duì)應(yīng)的目標(biāo)備份文件,并將壓縮存儲(chǔ)的二進(jìn)制字符串錄入對(duì)應(yīng)的目標(biāo)備份文件,同時(shí),基于數(shù)據(jù)來源確定對(duì)目標(biāo)備份文件的存儲(chǔ)標(biāo)識(shí),并將存儲(chǔ)標(biāo)識(shí)同步錄入目標(biāo)備份文件,且基于錄入結(jié)果完成數(shù)據(jù)備份;
43、同時(shí),實(shí)時(shí)監(jiān)測(cè)數(shù)據(jù)恢復(fù)請(qǐng)求,并基于監(jiān)測(cè)結(jié)果對(duì)對(duì)目標(biāo)備份文件進(jìn)行讀?。?/p>
44、基于讀取結(jié)果根據(jù)存儲(chǔ)標(biāo)識(shí)將壓縮存儲(chǔ)的二進(jìn)制字符串在內(nèi)存塊中進(jìn)行重建,并基于重建結(jié)果完成對(duì)數(shù)據(jù)的恢復(fù)。
45、優(yōu)選的,一種低資源需求的手機(jī)號(hào)碼大數(shù)據(jù)通用數(shù)據(jù)庫構(gòu)建方法,步驟4中,基于多維度管理配置結(jié)果將通用數(shù)據(jù)庫轉(zhuǎn)換為部署文件,并基于部署要求對(duì)部署文件進(jìn)行多類別終端差異部署,包括:
46、獲取對(duì)通用數(shù)據(jù)庫的多維度管理配置結(jié)果,并將多維度管理配置后的通用數(shù)據(jù)庫轉(zhuǎn)換為部署文件;
47、對(duì)部署要求進(jìn)行解析,確定對(duì)部署文件的部署類型,并基于部署類型對(duì)部署環(huán)境進(jìn)行參數(shù)調(diào)整;
48、基于參數(shù)調(diào)整結(jié)果將部署文件進(jìn)行多類別終端差異部署,同時(shí),實(shí)時(shí)監(jiān)測(cè)數(shù)據(jù)量的改變趨勢(shì),并在改變趨勢(shì)大于預(yù)設(shè)要求時(shí),對(duì)終端差異部署進(jìn)行分布式終端差異部署。
49、與現(xiàn)有技術(shù)相比,本發(fā)明的有益效果如下:
50、1.通過確定與手機(jī)號(hào)碼強(qiáng)關(guān)聯(lián)的數(shù)據(jù)類型,實(shí)現(xiàn)根據(jù)數(shù)據(jù)類型定義對(duì)應(yīng)的通用數(shù)據(jù)庫,從而便于將手機(jī)號(hào)碼關(guān)聯(lián)的不同類型數(shù)據(jù)進(jìn)行有效的管理,其次,對(duì)手機(jī)號(hào)碼進(jìn)行拆分,實(shí)現(xiàn)對(duì)不同手機(jī)號(hào)碼對(duì)應(yīng)的尋址地址進(jìn)行準(zhǔn)確有效的確定,從而便于對(duì)海量數(shù)據(jù)進(jìn)行快速準(zhǔn)確的存儲(chǔ)和查詢,最后,通過通用接口對(duì)通用數(shù)據(jù)庫進(jìn)行多維度管理配置,并將多維度管理配置后的通用數(shù)據(jù)庫進(jìn)行差異部署,確保構(gòu)建的通用數(shù)據(jù)庫能夠有效運(yùn)行,滿足不同環(huán)境的部署需求,同時(shí),降低了資源需求量,提高了對(duì)手機(jī)號(hào)碼相關(guān)數(shù)據(jù)的存儲(chǔ)效率和管理效果。
51、2.通過根據(jù)手機(jī)號(hào)碼的拆分結(jié)果為每一號(hào)碼段建立相應(yīng)字符長(zhǎng)度的數(shù)組,并從相應(yīng)數(shù)組中選取相應(yīng)號(hào)碼段對(duì)應(yīng)的指標(biāo)數(shù),實(shí)現(xiàn)對(duì)不同手機(jī)號(hào)碼的內(nèi)存管理地址進(jìn)行準(zhǔn)確有效的確定,其次,根據(jù)得到的內(nèi)存管理地址確定不同手機(jī)號(hào)碼對(duì)應(yīng)的內(nèi)存塊,從而便于將不同手機(jī)號(hào)碼對(duì)應(yīng)的待存儲(chǔ)數(shù)據(jù)存儲(chǔ)至相應(yīng)的內(nèi)存塊,并根據(jù)待存儲(chǔ)數(shù)據(jù)對(duì)應(yīng)的數(shù)據(jù)長(zhǎng)度對(duì)內(nèi)存塊進(jìn)行自適應(yīng)擴(kuò)充,便于對(duì)待存儲(chǔ)數(shù)據(jù)進(jìn)行有效存儲(chǔ),最后,對(duì)待存儲(chǔ)數(shù)據(jù)進(jìn)行序列化處理,并對(duì)序列化處理得到的數(shù)據(jù)進(jìn)行壓縮后存儲(chǔ),提高了對(duì)不同手機(jī)號(hào)碼對(duì)應(yīng)的待存儲(chǔ)數(shù)據(jù)存儲(chǔ)的效率。
52、本發(fā)明的其它特征和優(yōu)點(diǎn)將在隨后的說明書中闡述,并且,部分地從說明書中變得顯而易見,或者通過實(shí)施本發(fā)明而了解。本發(fā)明的目的和其他優(yōu)點(diǎn)可通過在本技術(shù)文件中所特別指出的結(jié)構(gòu)來實(shí)現(xiàn)和獲得。
53、下面通過附圖和實(shí)施例,對(duì)本發(fā)明的技術(shù)方案做進(jìn)一步的詳細(xì)描述。