本發(fā)明涉及互聯(lián)網(wǎng)技術(shù)領(lǐng)域,具體涉及一種基于令牌的并發(fā)主從同步方法及裝置。
背景技術(shù):
分布式數(shù)據(jù)存儲系統(tǒng)就是將數(shù)據(jù)分散存儲在多臺獨立的設(shè)備上,也就是說,針對一份數(shù)據(jù),存儲至N個數(shù)據(jù)庫上,一般是存儲至一個主數(shù)據(jù)庫和多個從數(shù)據(jù)庫,其中,從數(shù)據(jù)庫中的數(shù)據(jù)是與主數(shù)據(jù)庫進行同步獲得的。
現(xiàn)有技術(shù)中主數(shù)據(jù)庫和從數(shù)據(jù)庫之間的數(shù)據(jù)同步過程具體為,主數(shù)據(jù)庫接收到客戶端寫數(shù)據(jù)的請求后,將數(shù)據(jù)寫入主數(shù)據(jù)庫中,并將寫數(shù)據(jù)操作記錄到主數(shù)據(jù)庫的日志文件中。隨后,主數(shù)據(jù)庫向從數(shù)據(jù)庫發(fā)送數(shù)據(jù)同步任務(wù),從數(shù)據(jù)庫根據(jù)數(shù)據(jù)同步任務(wù)執(zhí)行將數(shù)據(jù)寫入從數(shù)據(jù)庫的寫數(shù)據(jù)操作,以及將寫數(shù)據(jù)操作記錄到從數(shù)據(jù)庫的日志文件中。在該數(shù)據(jù)同步過程中,從數(shù)據(jù)庫只有一個線程用于處理主數(shù)據(jù)庫發(fā)送的數(shù)據(jù)同步任務(wù)。該線程接收來自主數(shù)據(jù)庫的數(shù)據(jù)同步任務(wù),需要串行執(zhí)行數(shù)據(jù)同步任務(wù)所涉及的寫數(shù)據(jù)操作和寫日志操作。在短時間內(nèi)數(shù)據(jù)同步任務(wù)過多的情況下,線程無法及時地處理數(shù)據(jù)同步任務(wù),造成從數(shù)據(jù)庫同步效率低下的問題,導(dǎo)致出現(xiàn)主數(shù)據(jù)庫和從數(shù)據(jù)庫的數(shù)據(jù)不一致的情況。
技術(shù)實現(xiàn)要素:
鑒于上述問題,提出了本發(fā)明以便提供一種克服上述問題或者至少部分地解決上述問題的基于令牌的并發(fā)主從同步方法和相應(yīng)的基于令牌的并發(fā)主從同步裝置。
根據(jù)本發(fā)明的一個方面,提供了一種基于令牌的并發(fā)主從同步方法,其包括:
接收來自主數(shù)據(jù)庫的數(shù)據(jù)同步任務(wù);
按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌;
將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個線程中一個線程,由該線程根據(jù)令牌執(zhí)行數(shù)據(jù)同步任務(wù)。
根據(jù)本發(fā)明的另一方面,提供了一種基于令牌的并發(fā)主從同步裝置,其包括:
接收模塊,適于接收來自主數(shù)據(jù)庫的數(shù)據(jù)同步任務(wù);
設(shè)置模塊,適于按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌;
分發(fā)模塊,適于將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個并行處理模塊中一個并行處理模塊;
多個并行處理模塊,適于根據(jù)令牌執(zhí)行數(shù)據(jù)同步任務(wù)。
根據(jù)本發(fā)明提供的方案,接收來自主數(shù)據(jù)庫的數(shù)據(jù)同步任務(wù),按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌,將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個線程中一個線程,由該線程根據(jù)令牌執(zhí)行數(shù)據(jù)同步任務(wù)。利用本發(fā)明上述方案,從數(shù)據(jù)庫有多個線程可以用于并行執(zhí)行部分數(shù)據(jù)同步任務(wù),提高了數(shù)據(jù)同步速度,克服了從數(shù)據(jù)庫單線程執(zhí)行數(shù)據(jù)同步任務(wù)造成的主數(shù)據(jù)庫與從數(shù)據(jù)庫中數(shù)據(jù)顯著不同步問題,通過設(shè)置令牌來限定數(shù)據(jù)同步任務(wù)的執(zhí)行順序,并依據(jù)令牌串行執(zhí)行數(shù)據(jù)同步任務(wù),保證與主數(shù)據(jù)庫的數(shù)據(jù)一致。
上述說明僅是本發(fā)明技術(shù)方案的概述,為了能夠更清楚了解本發(fā)明的技術(shù)手段,而可依照說明書的內(nèi)容予以實施,并且為了讓本發(fā)明的上述和其它目的、特征和優(yōu)點能夠更明顯易懂,以下特舉本發(fā)明的具體實施方式。
附圖說明
通過閱讀下文優(yōu)選實施方式的詳細描述,各種其他的優(yōu)點和益處對于本領(lǐng)域普通技術(shù)人員將變得清楚明了。附圖僅用于示出優(yōu)選實施方式的目的,而并不認為是對本發(fā)明的限制。而且在整個附圖中,用相同的參考符號表示相同的部件。在附圖中:
圖1示出了根據(jù)本發(fā)明一個實施例的基于令牌的并發(fā)主從同步方法的流程示意圖;
圖2示出了根據(jù)本發(fā)明另一個實施例的基于令牌的并發(fā)主從同步方法的流程示意圖;
圖3示出了根據(jù)本發(fā)明一個實施例的基于令牌的并發(fā)主從同步裝置的結(jié)構(gòu)示意圖。
具體實施方式
下面將參照附圖更詳細地描述本公開的示例性實施例。雖然附圖中顯示了本公開的示例性實施例,然而應(yīng)當理解,可以以各種形式實現(xiàn)本公開而不應(yīng)被這里闡述的實施例所限制。相反,提供這些實施例是為了能夠更透徹地理解本公開,并且能夠?qū)⒈竟_的范圍完整的傳達給本領(lǐng)域的技術(shù)人員。
圖1示出了根據(jù)本發(fā)明一個實施例的基于令牌的并發(fā)主從同步方法的流程示意圖。如圖1所示,該方法包括以下步驟:
步驟S100,接收來自主數(shù)據(jù)庫的數(shù)據(jù)同步任務(wù)。
分布式數(shù)據(jù)存儲系統(tǒng)就是將數(shù)據(jù)分散存儲在多臺獨立的設(shè)備上,也就是說,針對一份數(shù)據(jù),存儲至N個數(shù)據(jù)庫,一般是存儲至一個主數(shù)據(jù)庫和多個從數(shù)據(jù)庫,從數(shù)據(jù)庫中的數(shù)據(jù)是與主數(shù)據(jù)庫進行同步獲得的,也就是說,數(shù)據(jù)寫入主數(shù)據(jù)庫后,主數(shù)據(jù)庫需要將寫入的數(shù)據(jù)同步給從數(shù)據(jù)庫,因此,主數(shù)據(jù)庫向從數(shù)據(jù)庫發(fā)送數(shù)據(jù)同步任務(wù),而從數(shù)據(jù)庫接收來自主數(shù)據(jù)庫的數(shù)據(jù)同步任務(wù)。
數(shù)據(jù)同步任務(wù)是根據(jù)寫入主數(shù)據(jù)庫的數(shù)據(jù)而生成的,也就是說針對寫入主數(shù)據(jù)庫的任一數(shù)據(jù)都將生成相應(yīng)的數(shù)據(jù)同步任務(wù)。
步驟S101,按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌。
其中,令牌標示了數(shù)據(jù)同步任務(wù)的執(zhí)行順序,只有排序在前的令牌對應(yīng)的數(shù)據(jù)同步任務(wù)被執(zhí)行后,才可以執(zhí)行排序在后的令牌對應(yīng)的數(shù)據(jù)同步任務(wù)。舉例說明,按照接收數(shù)據(jù)同步任務(wù)的順序,設(shè)置了數(shù)據(jù)同步任務(wù)的令牌分別為1、2、3、4,這樣,只有在令牌1對應(yīng)的數(shù)據(jù)同步任務(wù)被執(zhí)行完成后,才可以執(zhí)行令牌2對應(yīng)的數(shù)據(jù)同步任務(wù),若令牌1對應(yīng)的數(shù)據(jù)同步任務(wù)還未被執(zhí)行,則不能執(zhí)行令牌2對應(yīng)的數(shù)據(jù)同步任務(wù),同理,以此類推,執(zhí)行令牌3和4對應(yīng)的數(shù)據(jù)同步任務(wù)。在本發(fā)明實施例中,為數(shù)據(jù)同步任務(wù)設(shè)置令牌,保證了在數(shù)據(jù)同步過程中不會出現(xiàn)同步至從數(shù)據(jù)庫的數(shù)據(jù)與寫入到主數(shù)據(jù)庫的數(shù)據(jù)不一致的缺陷。
步驟S102,將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個線程中一個線程,由該線程根據(jù)令牌執(zhí)行數(shù)據(jù)同步任務(wù)。
具體地,在為數(shù)據(jù)同步任務(wù)設(shè)置令牌后,可以將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個線程中一個線程,由該線程根據(jù)令牌執(zhí)行數(shù)據(jù)同步任務(wù),對于不同數(shù)據(jù)的數(shù)據(jù)同步任務(wù)可以分發(fā)給不同的線程處理。
根據(jù)本發(fā)明上述實施例提供的方法,接收來自主數(shù)據(jù)庫的數(shù)據(jù)同步任務(wù),按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌,將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個線程中一個線程,由該線程根據(jù)令牌執(zhí)行數(shù)據(jù)同步任務(wù)。利用本發(fā)明上述方案,從數(shù)據(jù)庫有多個線程可以用于并行執(zhí)行部分數(shù)據(jù)同步任務(wù),提高了數(shù)據(jù)同步速度,克服了從數(shù)據(jù)庫單線程執(zhí)行數(shù)據(jù)同步任務(wù)造成的主數(shù)據(jù)庫與從數(shù)據(jù)庫中數(shù)據(jù)顯著不同步問題,通過設(shè)置令牌來限定數(shù)據(jù)同步任務(wù)的執(zhí)行順序,并依據(jù)令牌串行執(zhí)行數(shù)據(jù)同步任務(wù),保證與主數(shù)據(jù)庫的數(shù)據(jù)一致。
圖2示出了根據(jù)本發(fā)明另一個實施例的基于令牌的并發(fā)主從同步方法的流程示意圖。如圖2所示,該方法包括以下步驟:
步驟S200,接收來自主數(shù)據(jù)庫的數(shù)據(jù)同步任務(wù)。
數(shù)據(jù)同步任務(wù)是根據(jù)寫入主數(shù)據(jù)庫的數(shù)據(jù)而生成的,也就是說針對寫入主數(shù)據(jù)庫的任一數(shù)據(jù)都將生成相應(yīng)的數(shù)據(jù)同步任務(wù)。
舉例說明,用戶通過客戶端向主數(shù)據(jù)庫寫入數(shù)據(jù)Set a=1;Set b=2;Set c=1;Set a=4,主數(shù)據(jù)庫將分別向從數(shù)據(jù)庫發(fā)送4個數(shù)據(jù)同步任務(wù)Set a=1;Set b=2;Set c=1;Set a=4,即,從數(shù)據(jù)庫接收到來自主數(shù)據(jù)庫的數(shù)據(jù)同步任務(wù)為:Set a=1;Set b=2;Set c=1;Set a=4。
步驟S201,按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌。
其中,主數(shù)據(jù)庫可以實時將數(shù)據(jù)同步任務(wù)發(fā)送給從數(shù)據(jù)庫,也就是說,從數(shù)據(jù)庫可以不斷地接收到主數(shù)據(jù)庫發(fā)送的數(shù)據(jù)同步任務(wù),主數(shù)據(jù)庫是按照數(shù)據(jù)寫入主數(shù)據(jù)庫的順序向從數(shù)據(jù)庫發(fā)送數(shù)據(jù)同步任務(wù),因此,在為數(shù)據(jù)同步任務(wù)設(shè)置令牌時,也需要按照接收數(shù)據(jù)同步任務(wù)的順序來設(shè)置令牌。舉例說明,主數(shù)據(jù)庫順序向從數(shù)據(jù)庫發(fā)送了4個數(shù)據(jù)同步任務(wù),分別為:Set a=1;Set b=2;Set c=1;Set a=4,那么,從數(shù)據(jù)庫接收到的數(shù)據(jù)同步任務(wù)順序為:Set a=1;Set b=2;Set c=1;Set a=4,這樣,從數(shù)據(jù)庫可以按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌,例如,分別設(shè)置4個數(shù)據(jù)同步任務(wù)的令牌為1、2、3、4。
步驟S202,依據(jù)負載均衡策略,從多個線程選擇一個線程。
其中,負載均衡策略指多個線程的業(yè)務(wù)負載壓力均衡,而不會出現(xiàn)有些線程的業(yè)務(wù)負載壓力很大,而有些線程的業(yè)務(wù)負載壓力很小的情況,依據(jù)線程的業(yè)務(wù)負載情況分發(fā)數(shù)據(jù)同步任務(wù)。
在為數(shù)據(jù)同步任務(wù)設(shè)置令牌后,需要將數(shù)據(jù)同步任務(wù)分發(fā)給線程,由線程執(zhí)行數(shù)據(jù)同步任務(wù),從數(shù)據(jù)庫中有多個線程可以執(zhí)行數(shù)據(jù)同步任務(wù),這里需要從多個線程中選擇一個合適的線程來執(zhí)行數(shù)據(jù)同步任務(wù),選擇線程的依據(jù)是負載均衡策略,目的是為了平衡各個線程之間的業(yè)務(wù)負載壓力,使得各個線程的業(yè)務(wù)負載壓力基本均衡。
步驟S203,將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給所選擇的線程。
在依據(jù)負載均衡策略,從多個線程選擇一個線程后,將設(shè)置于令牌的數(shù)據(jù)同步任務(wù)分發(fā)給所選擇的線程,由該線程來執(zhí)行數(shù)據(jù)同步任務(wù)。
其中,數(shù)據(jù)同步任務(wù)包括:將數(shù)據(jù)寫入從數(shù)據(jù)庫的寫數(shù)據(jù)操作,以及將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。日志文件用于記錄數(shù)據(jù)寫操作記錄,以在從數(shù)據(jù)庫中數(shù)據(jù)出現(xiàn)丟失等問題時,能夠方便地根據(jù)日志文件中的寫數(shù)據(jù)操作記錄恢復(fù)從數(shù)據(jù)庫的數(shù)據(jù)。因此,要求記錄到日志文件中的寫數(shù)據(jù)操作記錄是按照接收數(shù)據(jù)同步任務(wù)的順序執(zhí)行的。
從數(shù)據(jù)庫接收的數(shù)據(jù)同步任務(wù)可以是多個,也就是說,可以依據(jù)負載均衡策略選擇多個線程執(zhí)行數(shù)據(jù)同步任務(wù),其中,各個線程之間執(zhí)行的寫數(shù)據(jù)操作為并行操作;各個線程之間執(zhí)行的寫日志操作為串行操作。針對不同數(shù)據(jù),各個線程可以并行執(zhí)行將數(shù)據(jù)寫入從數(shù)據(jù)庫的寫數(shù)據(jù)操作,而不會對寫入從數(shù)據(jù)庫的數(shù)據(jù)造成任何影響,然而,針對同一數(shù)據(jù)的數(shù)據(jù)同步任務(wù)分發(fā)給同一線程,也就是說,針對同一數(shù)據(jù),將數(shù)據(jù)寫入從數(shù)據(jù)庫的寫數(shù)據(jù)操作也應(yīng)該是由線程串行執(zhí)行的,目的是防止分發(fā)給不同的線程處理,導(dǎo)致從數(shù)據(jù)庫的數(shù)據(jù)與主數(shù)據(jù)的數(shù)據(jù)不一致的情況出現(xiàn)。
此外,每個線程分別定義了可以執(zhí)行并行操作和串行操作的函數(shù),舉例說明,執(zhí)行并行操作的函數(shù)為function1,執(zhí)行串行操作的函數(shù)為function2,也就是說,將數(shù)據(jù)寫入從數(shù)據(jù)庫的寫數(shù)據(jù)操作可以由function1執(zhí)行、將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作可以由function2執(zhí)行,線程在接收到數(shù)據(jù)同步任務(wù)后,將會由會function1、function2來執(zhí)行數(shù)據(jù)同步任務(wù)。
步驟S204,由該線程執(zhí)行將數(shù)據(jù)寫入從數(shù)據(jù)庫的寫數(shù)據(jù)操作。
舉例說明,針對于數(shù)據(jù)同步任務(wù):Set a=1;Set b=2;Set c=1;Set a=4,可以依據(jù)負載均衡策略將數(shù)據(jù)同步任務(wù)Set a=1;Set a=4分發(fā)給線程1,數(shù)據(jù)同步任務(wù)Set b=2分發(fā)給線程2,數(shù)據(jù)同步任務(wù)Set c=1分發(fā)給線程3,其中,對于數(shù)據(jù)同步任務(wù)中的將數(shù)據(jù)寫入從數(shù)據(jù)庫的寫數(shù)據(jù)操作,第一線程1、2、3可以并行執(zhí)行,而將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作則需要第一線程1、2、3串行執(zhí)行。線程1、2、3在執(zhí)行將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作時,需要根據(jù)令牌來執(zhí)行,具體地,可以采用如下方法步驟來執(zhí)行將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。
步驟S205,判斷順序排在令牌前一位的令牌對應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成,若是,則執(zhí)行步驟S206;若否,則執(zhí)行步驟S207。
其中,令牌的排列順序與接收數(shù)據(jù)同步任務(wù)的順序一致。
具體地,function2在執(zhí)行將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作之前,還需要判斷順序排在令牌前一位的令牌對應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成,函數(shù)function2的代碼能夠?qū)崿F(xiàn)判斷功能,這里判斷順序排在令牌前一位的令牌對應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成主要是為了保證寫日志操作是按照接收數(shù)據(jù)同步任務(wù)的順序執(zhí)行的,保證在從數(shù)據(jù)庫中數(shù)據(jù)出現(xiàn)丟失等問題時,能夠方便地根據(jù)日志文件中的寫數(shù)據(jù)操作記錄恢復(fù)從數(shù)據(jù)庫的數(shù)據(jù)。
舉例說明,從數(shù)據(jù)庫為數(shù)據(jù)同步任務(wù):Set a=1;Set b=2;Set c=1;Set a=4,分別設(shè)置令牌為1、2、3、4。線程2在執(zhí)行將Set b=2記錄到日志文件中時,需要判斷令牌1對應(yīng)的數(shù)據(jù)同步任務(wù)是否執(zhí)行完成,同理,線程3在執(zhí)行將Set c=1記錄到日志文件中時,需要判斷令牌1、2對應(yīng)的數(shù)據(jù)同步任務(wù)是否執(zhí)行完成,同樣地,線程1在執(zhí)行將Set a=4記錄到日志文件中時,需要判斷令牌1、2、3對應(yīng)的數(shù)據(jù)同步任務(wù)是否執(zhí)行完成。
步驟S206,執(zhí)行用于將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。
若判斷出順序排在令牌前一位的令牌對應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作執(zhí)行完成,則線程可以執(zhí)行用于將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。
步驟S207,繼續(xù)等待。
若判斷出順序排在令牌前一位的令牌對應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作未執(zhí)行完成,則需要繼續(xù)等待,等待順序排在令牌前一位的令牌對應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作執(zhí)行完成后,才執(zhí)行該令牌對應(yīng)的將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。
根據(jù)本發(fā)明上述實施例提供的方法,從數(shù)據(jù)庫有多個線程可以用于并行執(zhí)行部分數(shù)據(jù)同步任務(wù),提高了數(shù)據(jù)同步速度,克服了從數(shù)據(jù)庫單線程執(zhí)行數(shù)據(jù)同步任務(wù)造成的主數(shù)據(jù)庫與從數(shù)據(jù)庫中數(shù)據(jù)顯著不同步問題,按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌,并依據(jù)負載均衡策略,從多個線程選擇一個線程,將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給所選擇的線程,能夠保證每個線程的負載業(yè)務(wù)壓力均衡,而不會出現(xiàn)有些線程負載業(yè)務(wù)壓力過大,有些線程負載壓力過小的情況,判斷順序排在令牌前一位的令牌對應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成,若是,則執(zhí)行用于將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作;若否,則繼續(xù)等待,使得記錄到日志文件的寫日志操作是按照接收數(shù)據(jù)同步任務(wù)順序嚴格串行執(zhí)行的,保證了在從數(shù)據(jù)庫中數(shù)據(jù)出現(xiàn)丟失等問題時,能夠方便地根據(jù)日志文件中的寫數(shù)據(jù)操作記錄恢復(fù)從數(shù)據(jù)庫的數(shù)據(jù)。
圖3示出了根據(jù)本發(fā)明一個實施例的基于令牌的并發(fā)主從同步裝置的結(jié)構(gòu)示意圖。如圖3所示,該裝置包括:接收模塊300、設(shè)置模塊310、分發(fā)模塊320、多個并行處理模塊330。
接收模塊300,適于接收來自主數(shù)據(jù)庫的數(shù)據(jù)同步任務(wù)。
設(shè)置模塊310,適于按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌。
分發(fā)模塊320,適于將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個并行處理模塊中一個并行處理模塊。
多個并行處理模塊330,適于根據(jù)令牌執(zhí)行數(shù)據(jù)同步任務(wù)。
可選地,分發(fā)模塊320進一步適于:依據(jù)負載均衡策略,從多個并行處理模塊選擇一個并行處理模塊;將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給所選擇的并行處理模塊。
可選地,數(shù)據(jù)同步任務(wù)包括:將數(shù)據(jù)寫入從數(shù)據(jù)庫的寫數(shù)據(jù)操作,以及將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。
可選地,各個并行處理模塊之間執(zhí)行的寫數(shù)據(jù)操作為并行操作;各個并行處理模塊之間執(zhí)行的寫日志操作為串行操作。
可選地,并行處理模塊330進一步適于:判斷順序排在令牌前一位的令牌對應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成;其中,令牌的排列順序與接收數(shù)據(jù)同步任務(wù)的順序一致;若是,則執(zhí)行用于將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作;若否,則繼續(xù)等待。
可選地,分發(fā)模塊進一步適于:針對同一數(shù)據(jù)的數(shù)據(jù)同步任務(wù)分發(fā)給同一線程。
根據(jù)本發(fā)明上述實施例提供的裝置,從數(shù)據(jù)庫有多個線程可以用于并行執(zhí)行部分數(shù)據(jù)同步任務(wù),提高了數(shù)據(jù)同步速度,克服了從數(shù)據(jù)庫單線程執(zhí)行數(shù)據(jù)同步任務(wù)造成的主數(shù)據(jù)庫與從數(shù)據(jù)庫中數(shù)據(jù)顯著不同步問題,按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌,并依據(jù)負載均衡策略,從多個線程選擇一個線程,將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給所選擇的線程,判斷順序排在令牌前一位的令牌對應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成,若是,則執(zhí)行用于將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作;若否,則繼續(xù)等待,保證了記錄到日志文件的寫日志操作是按照接收數(shù)據(jù)同步任務(wù)順序嚴格串行執(zhí)行的,保證了在從數(shù)據(jù)庫中數(shù)據(jù)出現(xiàn)丟失等問題時,能夠方便地根據(jù)日志文件中的寫數(shù)據(jù)操作記錄恢復(fù)從數(shù)據(jù)庫的數(shù)據(jù)。
在此提供的算法和顯示不與任何特定計算機、虛擬系統(tǒng)或者其它設(shè)備固有相關(guān)。各種通用系統(tǒng)也可以與基于在此的示教一起使用。根據(jù)上面的描述,構(gòu)造這類系統(tǒng)所要求的結(jié)構(gòu)是顯而易見的。此外,本發(fā)明也不針對任何特定編程語言。應(yīng)當明白,可以利用各種編程語言實現(xiàn)在此描述的本發(fā)明的內(nèi)容,并且上面對特定語言所做的描述是為了披露本發(fā)明的最佳實施方式。
在此處所提供的說明書中,說明了大量具體細節(jié)。然而,能夠理解,本發(fā)明的實施例可以在沒有這些具體細節(jié)的情況下實踐。在一些實例中,并未詳細示出公知的方法、結(jié)構(gòu)和技術(shù),以便不模糊對本說明書的理解。
類似地,應(yīng)當理解,為了精簡本公開并幫助理解各個發(fā)明方面中的一個或多個,在上面對本發(fā)明的示例性實施例的描述中,本發(fā)明的各個特征有時被一起分組到單個實施例、圖、或者對其的描述中。然而,并不應(yīng)將該公開的方法解釋成反映如下意圖:即所要求保護的本發(fā)明要求比在每個權(quán)利要求中所明確記載的特征更多的特征。更確切地說,如下面的權(quán)利要求書所反映的那樣,發(fā)明方面在于少于前面公開的單個實施例的所有特征。因此,遵循具體實施方式的權(quán)利要求書由此明確地并入該具體實施方式,其中每個權(quán)利要求本身都作為本發(fā)明的單獨實施例。
本領(lǐng)域那些技術(shù)人員可以理解,可以對實施例中的設(shè)備中的模塊進行自適應(yīng)性地改變并且把它們設(shè)置在與該實施例不同的一個或多個設(shè)備中??梢园褜嵤├械哪K或單元或組件組合成一個模塊或單元或組件,以及此外可以把它們分成多個子模塊或子單元或子組件。除了這樣的特征和/或過程或者單元中的至少一些是相互排斥之外,可以采用任何組合對本說明書(包括伴隨的權(quán)利要求、摘要和附圖)中公開的所有特征以及如此公開的任何方法或者設(shè)備的所有過程或單元進行組合。除非另外明確陳述,本說明書(包括伴隨的權(quán)利要求、摘要和附圖)中公開的每個特征可以由提供相同、等同或相似目的的替代特征來代替。
此外,本領(lǐng)域的技術(shù)人員能夠理解,盡管在此所述的一些實施例包括其它實施例中所包括的某些特征而不是其它特征,但是不同實施例的特征的組合意味著處于本發(fā)明的范圍之內(nèi)并且形成不同的實施例。例如,在下面的權(quán)利要求書中,所要求保護的實施例的任意之一都可以以任意的組合方式來使用。
本發(fā)明的各個部件實施例可以以硬件實現(xiàn),或者以在一個或者多個處理器上運行的軟件模塊實現(xiàn),或者以它們的組合實現(xiàn)。本領(lǐng)域的技術(shù)人員應(yīng)當理解,可以在實踐中使用微處理器或者數(shù)字信號處理器(DSP)來實現(xiàn)根據(jù)本發(fā)明實施例的基于令牌的并發(fā)主從同步設(shè)備中的一些或者全部部件的一些或者全部功能。本發(fā)明還可以實現(xiàn)為用于執(zhí)行這里所描述的方法的一部分或者全部的設(shè)備或者裝置程序(例如,計算機程序和計算機程序產(chǎn)品)。這樣的實現(xiàn)本發(fā)明的程序可以存儲在計算機可讀介質(zhì)上,或者可以具有一個或者多個信號的形式。這樣的信號可以從因特網(wǎng)網(wǎng)站上下載得到,或者在載體信號上提供,或者以任何其他形式提供。
應(yīng)該注意的是上述實施例對本發(fā)明進行說明而不是對本發(fā)明進行限制,并且本領(lǐng)域技術(shù)人員在不脫離所附權(quán)利要求的范圍的情況下可設(shè)計出替換實施例。在權(quán)利要求中,不應(yīng)將位于括號之間的任何參考符號構(gòu)造成對權(quán)利要求的限制。單詞“包含”不排除存在未列在權(quán)利要求中的元件或步驟。位于元件之前的單詞“一”或“一個”不排除存在多個這樣的元件。本發(fā)明可以借助于包括有若干不同元件的硬件以及借助于適當編程的計算機來實現(xiàn)。在列舉了若干裝置的單元權(quán)利要求中,這些裝置中的若干個可以是通過同一個硬件項來具體體現(xiàn)。單詞第一、第二、以及第三等的使用不表示任何順序??蓪⑦@些單詞解釋為名稱。
本發(fā)明公開了:
A1、一種基于令牌的并發(fā)主從同步方法,其包括:
接收來自主數(shù)據(jù)庫的數(shù)據(jù)同步任務(wù);
按照接收數(shù)據(jù)同步任務(wù)的順序,為所述數(shù)據(jù)同步任務(wù)設(shè)置令牌;
將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個線程中一個線程,由該線程根據(jù)令牌執(zhí)行所述數(shù)據(jù)同步任務(wù)。
A2、根據(jù)A1所述的基于令牌的并發(fā)主從同步方法,其中,所述將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個線程中一個線程進一步包括:
依據(jù)負載均衡策略,從多個線程選擇一個線程;
將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給所選擇的線程。
A3、根據(jù)A1所述的基于令牌的并發(fā)主從同步方法,其中,所述數(shù)據(jù)同步任務(wù)包括:
將數(shù)據(jù)寫入從數(shù)據(jù)庫的寫數(shù)據(jù)操作,以及將所述寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。
A4、根據(jù)A3所述的基于令牌的并發(fā)主從同步方法,其中,各個線程之間執(zhí)行的所述寫數(shù)據(jù)操作為并行操作;各個線程之間執(zhí)行的所述寫日志操作為串行操作。
A5、根據(jù)A1所述的基于令牌的并發(fā)主從同步方法,其中,所述由該線程根據(jù)令牌執(zhí)行所述數(shù)據(jù)同步任務(wù)進一步包括:
判斷順序排在所述令牌前一位的令牌對應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成;其中,所述令牌的排列順序與接收數(shù)據(jù)同步任務(wù)的順序一致;
若是,則執(zhí)行用于將所述寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作;
若否,則繼續(xù)等待。
A6、根據(jù)A1所述的基于令牌的并發(fā)主從同步方法,其中,針對同一數(shù)據(jù)的數(shù)據(jù)同步任務(wù)分發(fā)給同一線程。
B7、一種基于令牌的并發(fā)主從同步裝置,其包括:
接收模塊,適于接收來自主數(shù)據(jù)庫的數(shù)據(jù)同步任務(wù);
設(shè)置模塊,適于按照接收數(shù)據(jù)同步任務(wù)的順序,為所述數(shù)據(jù)同步任務(wù)設(shè)置令牌;
分發(fā)模塊,適于將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個并行處理模塊中一個并行處理模塊;
多個并行處理模塊,適于根據(jù)令牌執(zhí)行所述數(shù)據(jù)同步任務(wù)。
B8、根據(jù)B7所述的基于令牌的并發(fā)主從同步裝置,其中,所述分發(fā)模塊進一步適于:依據(jù)負載均衡策略,從多個并行處理模塊選擇一個并行處理模塊;將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給所選擇的并行處理模塊。
B9、根據(jù)B7所述的基于令牌的并發(fā)主從同步裝置,其中,所述數(shù)據(jù)同步任務(wù)包括:
將數(shù)據(jù)寫入從數(shù)據(jù)庫的寫數(shù)據(jù)操作,以及將所述寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。
B10、根據(jù)B9所述的基于令牌的并發(fā)主從同步裝置,其中,各個并行處理模塊之間執(zhí)行的所述寫數(shù)據(jù)操作為并行操作;各個并行處理模塊之間執(zhí)行的所述寫日志操作為串行操作。
B11、根據(jù)B7所述的基于令牌的并發(fā)主從同步裝置,其中,所述并行處理模塊進一步適于:
判斷順序排在所述令牌前一位的令牌對應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成;其中,所述令牌的排列順序與接收數(shù)據(jù)同步任務(wù)的順序一致;
若是,則執(zhí)行用于將所述寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作;
若否,則繼續(xù)等待。
B12、根據(jù)B7所述的基于令牌的并發(fā)主從同步裝置,其中,所述分發(fā)模塊進一步適于:針對同一數(shù)據(jù)的數(shù)據(jù)同步任務(wù)分發(fā)給同一線程。