本發(fā)明涉及數(shù)據(jù)安全防護,具體為一種制造業(yè)設(shè)備數(shù)據(jù)采集和處理系統(tǒng)。
背景技術(shù):
1、隨著工業(yè)化時代的到來,智能工廠已成為制造業(yè)發(fā)展的重要趨勢。在智能工廠中,各類傳感器、設(shè)備和系統(tǒng)不斷產(chǎn)生大量的數(shù)據(jù),這些數(shù)據(jù)對于優(yōu)化生產(chǎn)流程、提高生產(chǎn)效率、保證產(chǎn)品質(zhì)量至關(guān)重要。然而,數(shù)據(jù)的采集與備份作為智能工廠數(shù)據(jù)管理的關(guān)鍵環(huán)節(jié),其重要性不容忽視。數(shù)據(jù)泄露、非法訪問、惡意篡改等安全事件頻發(fā),嚴重威脅著企業(yè)和采集器的利益。目前,市場上已存在多種數(shù)據(jù)安全備份技術(shù),如快照、數(shù)據(jù)鏡像、raid、異地備份等。然而,這些技術(shù)在應對大數(shù)據(jù)備份需求時仍存在諸多局限性:備份效率低下,面對海量數(shù)據(jù),傳統(tǒng)備份方法往往耗時過長,難以滿足快速恢復的需求;資源消耗大,備份過程需要占用大量存儲空間和計算資源,增加了企業(yè)的運營成本;靈活性不足,無法根據(jù)數(shù)據(jù)的實時變更情況和重要性進行智能備份,導致備份數(shù)據(jù)冗余或關(guān)鍵數(shù)據(jù)遺漏;安全性有待提高,備份數(shù)據(jù)在存儲和傳輸過程中仍存在被竊取或篡改的風險。
2、在申請公布號為cn118277164a的中國發(fā)明申請中,公開了一種基于云計算的數(shù)據(jù)備份與恢復方法及系統(tǒng),包括步驟s1:獲取待備份文件的分配參數(shù);將待備份文件分為寫熱數(shù)據(jù)、讀熱數(shù)據(jù)和冷數(shù)據(jù);步驟s2:獲取本地參數(shù);根據(jù)待備份文件的文件大小,把寫熱數(shù)據(jù)或讀熱數(shù)據(jù)備份到本地;步驟s3:根據(jù)本地參數(shù),配置非本地服務器計算平臺,備份冷數(shù)據(jù);為待備份文件創(chuàng)建快照;判斷待備份文件是否完整;若不完整,則根據(jù)快照恢復待備份文件,得到對照文件;若待備份文件數(shù)據(jù)完整,則不處理;步驟s4:匯總對照文件,并反饋給采集器;
3、在以上發(fā)明申請中,根據(jù)采集器對數(shù)據(jù)的使用頻率,把數(shù)據(jù)分為重要數(shù)據(jù)(讀熱數(shù)據(jù)和寫熱數(shù)據(jù))和冷數(shù)據(jù),把重要數(shù)據(jù)(讀熱數(shù)據(jù)和寫熱數(shù)據(jù))備份到本地服務器,把冷數(shù)據(jù)備份到非本地服務器,又根據(jù)服務器的數(shù)據(jù)處理速率,調(diào)整非本地服務器的數(shù)據(jù)發(fā)送速率,提升采集器的使用體驗,但在實際備份過程中,當更改數(shù)據(jù)量大且網(wǎng)速慢時,有些寫熱數(shù)據(jù)在上傳服務器前就可能經(jīng)過多次變更,此時若優(yōu)先上傳此類數(shù)據(jù),會導致數(shù)據(jù)頻繁上傳,造成該數(shù)據(jù)在高峰期占用過多資源,而其余數(shù)據(jù)一直等待無法上傳服務器備份,導致整體備份效率低下,對系統(tǒng)資源(如cpu、內(nèi)存、磁盤i/o等)的占用也會增加,導致系統(tǒng)整體性能下降,影響其他業(yè)務的正常運行。
4、為此,本發(fā)明提供了一種制造業(yè)設(shè)備數(shù)據(jù)采集和處理系統(tǒng)。
技術(shù)實現(xiàn)思路
1、(一)解決的技術(shù)問題
2、針對現(xiàn)有技術(shù)的不足,本發(fā)明提供了一種制造業(yè)設(shè)備數(shù)據(jù)采集和處理系統(tǒng),本發(fā)明通過分析采集器實時備份狀態(tài),標記為新備份、實時備份和非實時備份,并采取不同的備份策略,根據(jù)采集器數(shù)據(jù)的變化情況動態(tài)調(diào)整,以適應不同的備份需求,可以更有效地利用云端ems系統(tǒng)的存儲和帶寬資源,這使得系統(tǒng)能夠更智能地決定哪些數(shù)據(jù)需要優(yōu)先備份,哪些數(shù)據(jù)可以稍后處理,從而提高了備份的整體效率,避免在高峰期占用過多資源,從而解決了背景技術(shù)中記載的技術(shù)問題。
3、(二)技術(shù)方案
4、為實現(xiàn)以上目的,本發(fā)明通過以下技術(shù)方案予以實現(xiàn):一種制造業(yè)設(shè)備數(shù)據(jù)采集和處理系統(tǒng),包括:
5、數(shù)據(jù)采集模塊,將采集器數(shù)據(jù)劃分為一個個子數(shù)據(jù),獲取每個子數(shù)據(jù)的數(shù)據(jù)量、歷史訪問時間和歷史變更時間,計算每個子數(shù)據(jù)的初始備份系數(shù),若云端ems系統(tǒng)無該采集器的備份數(shù)據(jù),則該采集器標記為新備份采集器,將每個子數(shù)據(jù)依據(jù)初始備份系數(shù)從大到小排序依次上傳云端ems系統(tǒng)備份;
6、數(shù)據(jù)分析模塊,若云端ems系統(tǒng)已有該采集器的備份信息,對比云端ems系統(tǒng)備份數(shù)據(jù)與采集器數(shù)據(jù),獲得每個子數(shù)據(jù)的差異數(shù)據(jù)量,計算預測備份完成時間 tt。
7、第一更新模塊,若預測備份完成時間 tt小于預設(shè)備份時間,則本次備份采取實時備份策略,依據(jù)每個子數(shù)據(jù)的差異數(shù)據(jù)量和初始備份系數(shù)計算每個子數(shù)據(jù)的實時更新系數(shù),將每個子數(shù)據(jù)的差異數(shù)據(jù)依據(jù)實時更新系數(shù)從大到小排序依次上傳云端ems系統(tǒng),對采集器備份數(shù)據(jù)進行更新;
8、第二更新模塊,預測備份完成時間 tt大于預設(shè)備份時間,則本次備份采取非實時備份策略,依據(jù)每個子數(shù)據(jù)的實時變更時間和實時變更差異數(shù)據(jù)量,計算每個子數(shù)據(jù)的實時變更系數(shù),并計算每個子數(shù)據(jù)的非實時更新系數(shù),依據(jù)非實時更新系數(shù)從大到小排序依次上傳云端ems系統(tǒng),對采集器備份數(shù)據(jù)進行更新。
9、進一步的,獲取采集器數(shù)據(jù),并依據(jù)數(shù)據(jù)存儲目錄對采集器數(shù)據(jù)進劃分為一個個子數(shù)據(jù),通過數(shù)據(jù)庫管理工具(如mysql?workbench、navicat等)獲取每個子數(shù)據(jù)的數(shù)據(jù)量,并使用系統(tǒng)監(jiān)控工具(如nagios、zabbix、prometheus等)獲取每個子數(shù)據(jù)的歷史訪問時間和歷史變更時間。
10、數(shù)據(jù)庫管理工具(如mysql?workbench、navicat等)是數(shù)據(jù)庫管理員和開發(fā)人員在進行數(shù)據(jù)庫管理和維護時的重要工具。這些工具通常提供圖形化界面,方便采集器進行數(shù)據(jù)庫的創(chuàng)建、修改、刪除、備份、還原、優(yōu)化和監(jiān)控等操作。
11、系統(tǒng)監(jiān)控工具(如nagios、zabbix、prometheus等)系統(tǒng)監(jiān)控工具是it運維中不可或缺的重要組成部分,它們能夠?qū)崟r監(jiān)控系統(tǒng)的性能、健康狀況和安全性,為系統(tǒng)管理員提供必要的數(shù)據(jù)支持,以確保系統(tǒng)的穩(wěn)定運行。
12、進一步的,獲取每個子數(shù)據(jù)的數(shù)據(jù)量、歷史訪問時間和歷史變更時間,進行無量綱化處理后,計算每個子數(shù)據(jù)的初始備份系數(shù):
13、
14、其中, i表示每個子數(shù)據(jù)的編號, i=1、2、…、 k, a表示同一子數(shù)據(jù)每次訪問的時間順序編號, a=1、2、…、 m, b表示同一子數(shù)據(jù)每次歷史變更的時間順序編號, b=1、2、…、 n。
15、進一步的,在云端ems系統(tǒng)中查看是否有該采集器的設(shè)備備份列表,查看是否有該采集器的設(shè)備備份列表,若云端ems系統(tǒng)無該采集器的備份數(shù)據(jù),則該采集器標記為新備份采集器,將每個子數(shù)據(jù)依據(jù)初始備份系數(shù)從大到小排序依次上傳云端ems系統(tǒng)備份。
16、進一步的,若云端ems系統(tǒng)已有該采集器的備份信息,使用數(shù)據(jù)庫比對工具(如dbeaver、toad?data?point等)或數(shù)據(jù)比對軟件(如beyond?compare、winmerge等)對比云端ems系統(tǒng)備份數(shù)據(jù)與采集器數(shù)據(jù),獲得每個子數(shù)據(jù)的差異數(shù)據(jù)量。并使用網(wǎng)絡(luò)性能測試工具(如iperf、psping等)檢測采集器的最大網(wǎng)絡(luò)通信量 tx。
17、網(wǎng)絡(luò)性能測試工具(如iperf、psping等)是用于評估和優(yōu)化網(wǎng)絡(luò)性能的重要工具,它們可以幫助采集器了解網(wǎng)絡(luò)的傳輸速度、延遲、丟包率等關(guān)鍵指標,從而發(fā)現(xiàn)潛在的網(wǎng)絡(luò)問題并進行優(yōu)化。
18、進一步的,獲取每個子數(shù)據(jù)的差異數(shù)據(jù)量和最大網(wǎng)絡(luò)通信量 tx,計算預測備份完成時間 tt:
19、
20、對應的預測備份完成時間 tt的計算公式如上。
21、進一步的,若預測備份完成時間 tt小于預設(shè)備份時間,則本次備份采取實時備份策略,獲取每個子數(shù)據(jù)的差異數(shù)據(jù)量和初始備份系數(shù),進行線性歸一化處理后,計算每個子數(shù)據(jù)的實時更新系數(shù):
22、
23、其中,預設(shè)備份時間由采集器預先設(shè)置或采用默認備份時間。
24、進一步的,采取實時備份策略時,將每個子數(shù)據(jù)的差異數(shù)據(jù)依據(jù)實時更新系數(shù)從大到小排序依次上傳云端ems系統(tǒng),對采集器備份數(shù)據(jù)進行更新。
25、進一步的,若預測備份完成時間 tt大于預設(shè)備份時間,則本次備份采取非實時備份策略,使用系統(tǒng)監(jiān)控工具獲取采集器從本次開始備份之后每個子數(shù)據(jù)的實時變更時間和實時變更差異數(shù)據(jù)量,計算每個子數(shù)據(jù)的實時變更系數(shù):
26、
27、其中, c表示同一子數(shù)據(jù)每次實時變更的時間順序編號, c=1、2、…、 w。
28、進一步的,獲取每個子數(shù)據(jù)的實時變更系數(shù)和初始備份系數(shù),進行線性歸一化處理后,計算每個子數(shù)據(jù)的非實時更新系數(shù):
29、
30、采取非實時備份策略時,將每個子數(shù)據(jù)的差異數(shù)據(jù)依據(jù)非實時更新系數(shù)從大到小排序依次上傳云端ems系統(tǒng),對采集器備份數(shù)據(jù)進行更新。
31、進一步的,上傳云端ems系統(tǒng)的數(shù)據(jù)包括通用網(wǎng)絡(luò)數(shù)據(jù)和低功耗網(wǎng)絡(luò)數(shù)據(jù);且云端ems系統(tǒng)與erp進行雙向數(shù)據(jù)傳輸通信。
32、通用網(wǎng)絡(luò)數(shù)據(jù)包括wifi、4g、5g和wan數(shù)據(jù),通過通用通訊數(shù)據(jù)采集器來輸入總線信號,通用計數(shù)采集器輸入脈沖、電平信號并輸出安燈和蜂鳴器信號,通用網(wǎng)絡(luò)數(shù)據(jù)輸入總線信號包括can、rs232、rs485、ethernet、usb,通用網(wǎng)絡(luò)數(shù)據(jù)輸入脈沖、電平信號包括生產(chǎn)制造總數(shù)量計數(shù)脈沖、生產(chǎn)制造合格數(shù)計數(shù)脈沖、設(shè)備供電信號、異常觸發(fā)信號;
33、低功耗網(wǎng)絡(luò)數(shù)據(jù)通過低功耗計數(shù)采集器輸入脈沖、電平信號,低功耗網(wǎng)絡(luò)數(shù)據(jù)輸入脈沖、電平信號包括生產(chǎn)制造總數(shù)量計數(shù)脈沖、生產(chǎn)制造合格數(shù)計數(shù)脈沖、設(shè)備供電信號、異常觸發(fā)信號,通過低功耗通訊數(shù)據(jù)采集器輸入總線信號,低功耗網(wǎng)絡(luò)數(shù)據(jù)輸入總線信號包括can、rs232、rs485。
34、(三)有益效果
35、本發(fā)明提供了一種制造業(yè)設(shè)備數(shù)據(jù)采集和處理系統(tǒng),具備以下有益效果:
36、1、將采集器數(shù)據(jù)劃分為一個個子數(shù)據(jù),獲取每個子數(shù)據(jù)的數(shù)據(jù)量、歷史訪問時間和歷史變更時間,計算每個子數(shù)據(jù)的初始備份系數(shù),若云端ems系統(tǒng)無該采集器的備份數(shù)據(jù),則該采集器標記為新備份采集器,將每個子數(shù)據(jù)依據(jù)初始備份系數(shù)從大到小排序依次上傳云端ems系統(tǒng)備份,能夠識別出哪些數(shù)據(jù)對于采集器來說更為關(guān)鍵或活躍,這有助于優(yōu)先備份那些重要或經(jīng)常變化的數(shù)據(jù),確保數(shù)據(jù)的時效性和完整性,即使在初始數(shù)據(jù)備份中斷的情況下,采集器的關(guān)鍵數(shù)據(jù)也能得到安全保障。
37、2、若云端ems系統(tǒng)已有該采集器的備份信息,對比云端ems系統(tǒng)備份數(shù)據(jù)與采集器數(shù)據(jù),獲得每個子數(shù)據(jù)的差異數(shù)據(jù)量,計算預測備份完成時間 tt,若預測備份完成時間 tt小于預設(shè)備份時間,則本次備份采取實時備份策略,依據(jù)每個子數(shù)據(jù)的差異數(shù)據(jù)量和初始備份系數(shù)計算每個子數(shù)據(jù)的實時更新系數(shù),將每個子數(shù)據(jù)的差異數(shù)據(jù)依據(jù)實時更新系數(shù)從大到小排序依次上傳云端ems系統(tǒng),對采集器備份數(shù)據(jù)進行更新,可以更有效地利用云端ems系統(tǒng)的存儲和帶寬資源,重要數(shù)據(jù)優(yōu)先上傳,而較不重要的數(shù)據(jù)則可以在資源更充裕時備份,避免在高峰期占用過多資源,并根據(jù)采集器數(shù)據(jù)的變化情況動態(tài)調(diào)整,以適應不同的備份需求。
38、3、預測備份完成時間 tt大于預設(shè)備份時間,則本次備份采取非實時備份策略,依據(jù)每個子數(shù)據(jù)的實時變更時間和實時變更差異數(shù)據(jù)量,計算每個子數(shù)據(jù)的實時變更系數(shù),并計算每個子數(shù)據(jù)的非實時更新系數(shù),依據(jù)非實時更新系數(shù)從大到小排序依次上傳云端ems系統(tǒng),對采集器備份數(shù)據(jù)進行更新,這使得系統(tǒng)能夠更智能地決定哪些數(shù)據(jù)需要優(yōu)先備份,哪些數(shù)據(jù)可以稍后處理,從而提高了備份的整體效率。