本發(fā)明實(shí)施例涉及數(shù)據(jù)采集與處理,尤其涉及一種時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法、裝置、設(shè)備、介質(zhì)及產(chǎn)品。
背景技術(shù):
1、在現(xiàn)代工業(yè)、環(huán)境監(jiān)測(cè)、物聯(lián)網(wǎng)等領(lǐng)域,時(shí)序數(shù)據(jù)采集是實(shí)現(xiàn)系統(tǒng)監(jiān)控、數(shù)據(jù)分析和智能決策的基礎(chǔ)。然而,受限于傳感器采樣能力、數(shù)據(jù)傳輸帶寬和存儲(chǔ)空間等等,無法對(duì)時(shí)序數(shù)據(jù)進(jìn)行高頻、連續(xù)的全量采樣,同時(shí)隨著數(shù)據(jù)量的快速增長(zhǎng)和實(shí)時(shí)處理需求的增加,傳統(tǒng)的采樣方法面臨諸多挑戰(zhàn)。
2、如傳統(tǒng)的固定頻率采樣方法在時(shí)序數(shù)據(jù)采集中被廣泛應(yīng)用,這種方法無論數(shù)據(jù)變化為何種狀態(tài),均會(huì)按照預(yù)定的固定頻率進(jìn)行采樣。這種一刀切的采樣策略無法動(dòng)態(tài)適應(yīng)數(shù)據(jù)的特征,可能導(dǎo)致過度采樣或不足采樣的問題。過度采樣不僅會(huì)增加數(shù)據(jù)存儲(chǔ)和傳輸?shù)呢?fù)擔(dān),還會(huì)浪費(fèi)計(jì)算資源,而不足采樣則可能遺漏關(guān)鍵數(shù)據(jù)變化,從而影響數(shù)據(jù)分析和決策的準(zhǔn)確性。
3、面對(duì)固定頻率采樣方法所面臨的問題,逐漸開始對(duì)自適應(yīng)采樣方法進(jìn)行研究,以嘗試通過調(diào)整采樣頻率來應(yīng)對(duì)數(shù)據(jù)的變化。但是目前的自適應(yīng)采樣方法需要通過實(shí)時(shí)分析數(shù)據(jù)特征來調(diào)整采樣策略,通常需要大量的計(jì)算資源。雖然在一定程度上解決了固定頻率采樣方法的缺陷,但是計(jì)算復(fù)雜度高,實(shí)現(xiàn)難度大,在數(shù)據(jù)變化劇烈時(shí)采樣精度仍可能不足。因此現(xiàn)有的采樣方法均難以在采樣精度與采樣效率之間取得平衡。
技術(shù)實(shí)現(xiàn)思路
1、本發(fā)明實(shí)施例提供一種時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法、裝置、設(shè)備、介質(zhì)及產(chǎn)品,以解決傳統(tǒng)采樣方法在精度和效率之間的權(quán)衡問題,提高系統(tǒng)性能和資源利用率。
2、第一方面,本發(fā)明實(shí)施例提供了一種時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法,該方法包括:
3、根據(jù)歷史時(shí)序數(shù)據(jù)對(duì)選定的目標(biāo)擬合模型進(jìn)行訓(xùn)練,以生成擬合函數(shù);
4、根據(jù)所述擬合函數(shù)實(shí)時(shí)調(diào)整當(dāng)前采樣頻率,并實(shí)時(shí)根據(jù)當(dāng)前采樣頻率進(jìn)行采樣,得到采樣數(shù)據(jù)。
5、可選的,所述根據(jù)所述擬合函數(shù)實(shí)時(shí)調(diào)整當(dāng)前采樣頻率,包括:
6、實(shí)時(shí)根據(jù)所述擬合函數(shù)確定當(dāng)前數(shù)據(jù)變化率;
7、實(shí)時(shí)根據(jù)當(dāng)前數(shù)據(jù)變化率更新當(dāng)前采樣頻率。
8、可選的,所述根據(jù)所述擬合函數(shù)實(shí)時(shí)調(diào)整當(dāng)前采樣頻率,還包括:
9、實(shí)時(shí)根據(jù)所述擬合函數(shù)的當(dāng)前擬合誤差更新當(dāng)前采樣頻率。
10、可選的,在所述根據(jù)歷史時(shí)序數(shù)據(jù)對(duì)選定的目標(biāo)擬合模型進(jìn)行訓(xùn)練之前,還包括:
11、基于所述歷史時(shí)序數(shù)據(jù)的數(shù)據(jù)特性、擬合模型的擬合精度和/或系統(tǒng)可用計(jì)算資源,根據(jù)待選擬合模型確定所述目標(biāo)擬合模型;所述待選擬合模型包括線性模型、多項(xiàng)式模型、指數(shù)模型、樣條插值模型以及機(jī)器學(xué)習(xí)模型中的至少一種。
12、可選的,所述根據(jù)歷史時(shí)序數(shù)據(jù)對(duì)選定的目標(biāo)擬合模型進(jìn)行訓(xùn)練,以生成擬合函數(shù),包括:
13、基于時(shí)間窗口或系統(tǒng)驅(qū)動(dòng)事件對(duì)所述歷史時(shí)序數(shù)據(jù)進(jìn)行分段;
14、根據(jù)每段數(shù)據(jù)分別對(duì)各段對(duì)應(yīng)的目標(biāo)擬合模型單獨(dú)進(jìn)行擬合訓(xùn)練,以分別得到每段數(shù)據(jù)的擬合函數(shù)。
15、可選的,在所述根據(jù)所述擬合函數(shù)實(shí)時(shí)調(diào)整當(dāng)前采樣頻率,并實(shí)時(shí)根據(jù)當(dāng)前采樣頻率進(jìn)行采樣,得到采樣數(shù)據(jù)之后,還包括:
16、根據(jù)所述采樣數(shù)據(jù)的采樣頻率和/或重要等級(jí),采用有損壓縮算法或無損壓縮算法對(duì)所述采樣數(shù)據(jù)進(jìn)行壓縮;
17、按照預(yù)設(shè)數(shù)據(jù)存儲(chǔ)格式對(duì)壓縮后數(shù)據(jù)進(jìn)行存儲(chǔ)。
18、第二方面,本發(fā)明實(shí)施例還提供了一種時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣裝置,該裝置包括:
19、擬合函數(shù)生成模塊,用于根據(jù)歷史時(shí)序數(shù)據(jù)對(duì)選定的目標(biāo)擬合模型進(jìn)行訓(xùn)練,以生成擬合函數(shù);
20、采樣頻率調(diào)整模塊,用于根據(jù)所述擬合函數(shù)實(shí)時(shí)調(diào)整當(dāng)前采樣頻率,并實(shí)時(shí)根據(jù)當(dāng)前采樣頻率進(jìn)行采樣,得到采樣數(shù)據(jù)。
21、第三方面,本發(fā)明實(shí)施例還提供了一種計(jì)算機(jī)設(shè)備,該計(jì)算機(jī)設(shè)備包括:
22、一個(gè)或多個(gè)處理器;
23、存儲(chǔ)器,用于存儲(chǔ)一個(gè)或多個(gè)程序;
24、當(dāng)所述一個(gè)或多個(gè)程序被所述一個(gè)或多個(gè)處理器執(zhí)行,使得所述一個(gè)或多個(gè)處理器實(shí)現(xiàn)本發(fā)明任意實(shí)施例所提供的時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法。
25、第四方面,本發(fā)明實(shí)施例還提供了一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì),其上存儲(chǔ)有計(jì)算機(jī)程序,該程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)本發(fā)明任意實(shí)施例所提供的時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法。
26、第五方面,本發(fā)明實(shí)施例還提供了一種計(jì)算機(jī)程序產(chǎn)品,該計(jì)算機(jī)程序產(chǎn)品包括計(jì)算機(jī)程序,該程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)本發(fā)明任意實(shí)施例所提供的時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法。
27、本發(fā)明實(shí)施例提供了一種時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法,首先根據(jù)歷史時(shí)序數(shù)據(jù)對(duì)選定的目標(biāo)擬合模型進(jìn)行訓(xùn)練,以生成擬合函數(shù),然后在需要進(jìn)行采樣時(shí),根據(jù)得到的擬合函數(shù)實(shí)時(shí)調(diào)整當(dāng)前采樣頻率,并實(shí)時(shí)根據(jù)當(dāng)前采樣頻率進(jìn)行采樣,從而得到采樣數(shù)據(jù)。本發(fā)明實(shí)施例所提供的時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法,通過基于數(shù)據(jù)擬合動(dòng)態(tài)調(diào)整采樣策略,可以實(shí)現(xiàn)對(duì)高頻率且大規(guī)模的時(shí)序數(shù)據(jù)在有限的計(jì)算和存儲(chǔ)資源的情況下精確且高效的進(jìn)行采樣,在保證數(shù)據(jù)采樣準(zhǔn)確性和代表性的前提下,減少冗余采樣,從而顯著減少了采樣點(diǎn)數(shù)量,降低了數(shù)據(jù)計(jì)算、存儲(chǔ)和傳輸?shù)馁Y源消耗,提升了系統(tǒng)整體性能和資源利用效率。而且適用范圍廣泛,可適用于多種應(yīng)用場(chǎng)景,尤其是在對(duì)采樣精度和資源利用效率要求較高的工業(yè)監(jiān)控和環(huán)境監(jiān)測(cè)等領(lǐng)域,效果尤為顯著,因此具有廣泛的應(yīng)用前景和重要的現(xiàn)實(shí)意義。
1.一種時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法,其特征在于,包括:
2.根據(jù)權(quán)利要求1所述的時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法,其特征在于,所述根據(jù)所述擬合函數(shù)實(shí)時(shí)調(diào)整當(dāng)前采樣頻率,包括:
3.根據(jù)權(quán)利要求2所述的時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法,其特征在于,所述根據(jù)所述擬合函數(shù)實(shí)時(shí)調(diào)整當(dāng)前采樣頻率,還包括:
4.根據(jù)權(quán)利要求1所述的時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法,其特征在于,在所述根據(jù)歷史時(shí)序數(shù)據(jù)對(duì)選定的目標(biāo)擬合模型進(jìn)行訓(xùn)練之前,還包括:
5.根據(jù)權(quán)利要求1所述的時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法,其特征在于,所述根據(jù)歷史時(shí)序數(shù)據(jù)對(duì)選定的目標(biāo)擬合模型進(jìn)行訓(xùn)練,以生成擬合函數(shù),包括:
6.根據(jù)權(quán)利要求1所述的時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法,其特征在于,在所述根據(jù)所述擬合函數(shù)實(shí)時(shí)調(diào)整當(dāng)前采樣頻率,并實(shí)時(shí)根據(jù)當(dāng)前采樣頻率進(jìn)行采樣,得到采樣數(shù)據(jù)之后,還包括:
7.一種時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣裝置,其特征在于,包括:
8.一種計(jì)算機(jī)設(shè)備,其特征在于,包括:
9.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì),其上存儲(chǔ)有計(jì)算機(jī)程序,其特征在于,該程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)如權(quán)利要求1-6中任一所述的時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法。
10.一種計(jì)算機(jī)程序產(chǎn)品,包括計(jì)算機(jī)程序,其特征在于,所述計(jì)算機(jī)程序在被處理器執(zhí)行時(shí)實(shí)現(xiàn)如權(quán)利要求1-6中任一所述的時(shí)序數(shù)據(jù)自適應(yīng)動(dòng)態(tài)采樣方法。