本公開(kāi)涉及一種包括網(wǎng)絡(luò)的數(shù)據(jù)處理系統(tǒng)、方法和計(jì)算機(jī)程序產(chǎn)品。更具體地，本公開(kāi)涉及如在獨(dú)立權(quán)利要求的前序部分中定義的一種包括網(wǎng)絡(luò)的數(shù)據(jù)處理系統(tǒng)、方法和計(jì)算機(jī)程序產(chǎn)品。

背景技術(shù)：

1、人工智能(ai)是已知的。ai的一個(gè)示例是人工神經(jīng)網(wǎng)絡(luò)(anns)。anns可能會(huì)受到剛性表示的影響，這似乎會(huì)導(dǎo)致網(wǎng)絡(luò)專注于有限的特征進(jìn)行識(shí)別。這種剛性表示可能導(dǎo)致預(yù)測(cè)不準(zhǔn)確。因此，創(chuàng)建不依賴于剛性表示的網(wǎng)絡(luò)/數(shù)據(jù)處理系統(tǒng)可能是有利的，例如其中推理基于跨所有節(jié)點(diǎn)/元件的廣泛表示和/或其中不允許單獨(dú)特征變得太占優(yōu)勢(shì)的網(wǎng)絡(luò)/數(shù)據(jù)處理系統(tǒng)，從而提供更準(zhǔn)確的預(yù)測(cè)和/或更準(zhǔn)確的數(shù)據(jù)處理系統(tǒng)。所有節(jié)點(diǎn)對(duì)所有表示都有貢獻(xiàn)的網(wǎng)絡(luò)被稱為密集編碼網(wǎng)絡(luò)。到目前為止，由于缺乏用于自主網(wǎng)絡(luò)形成的規(guī)則，密集編碼網(wǎng)絡(luò)的實(shí)現(xiàn)受到了阻礙，使得難以生成具有高容量/變化的功能網(wǎng)絡(luò)。

2、因此，可能需要一種具有增加的容量的ai系統(tǒng)。處理。優(yōu)選地，這樣的ai系統(tǒng)提供或?qū)崿F(xiàn)以下中的一個(gè)或多個(gè)：性能更佳、可靠性更高、效率更高、訓(xùn)練速度更快、使用的計(jì)算機(jī)功率更少、使用的訓(xùn)練數(shù)據(jù)更少、使用的存儲(chǔ)空間更少、復(fù)雜性更低和/或使用的能源更少。

3、se?2051375?a1減輕了一些上述問(wèn)題。然而，仍然可能需要更有效的ai/數(shù)據(jù)處理系統(tǒng)和/或替代方法。

技術(shù)實(shí)現(xiàn)思路

1、本公開(kāi)的目的是減輕、緩解或消除現(xiàn)有技術(shù)中的上述缺陷和缺點(diǎn)中的一個(gè)或多個(gè)，并且至少解決上述提及的問(wèn)題。

2、根據(jù)第一方面，提供一種數(shù)據(jù)處理系統(tǒng)。數(shù)據(jù)處理系統(tǒng)被配置為具有包括待處理數(shù)據(jù)的一個(gè)或多個(gè)系統(tǒng)輸入和系統(tǒng)輸出。該數(shù)據(jù)處理系統(tǒng)包括：網(wǎng)絡(luò)nw，其包括多個(gè)節(jié)點(diǎn)，每個(gè)節(jié)點(diǎn)被配置為具有多個(gè)輸入，每個(gè)節(jié)點(diǎn)包括針對(duì)每個(gè)輸入的權(quán)重，并且每個(gè)節(jié)點(diǎn)被配置為產(chǎn)生輸出；以及一個(gè)或多個(gè)更新單元，其被配置為在學(xué)習(xí)模式期間基于節(jié)點(diǎn)的每個(gè)相應(yīng)輸入與對(duì)應(yīng)輸出的相關(guān)性來(lái)更新每個(gè)節(jié)點(diǎn)的權(quán)重；一個(gè)或多個(gè)處理單元，所述一個(gè)或多個(gè)處理單元被配置為接收處理單元輸入并且被配置為通過(guò)改變所接收的處理單元輸入的符號(hào)來(lái)產(chǎn)生處理單元輸出。系統(tǒng)輸出包括每個(gè)節(jié)點(diǎn)的輸出。此外，多個(gè)節(jié)點(diǎn)中的第一組節(jié)點(diǎn)中的節(jié)點(diǎn)被配置為通過(guò)將第一組節(jié)點(diǎn)中的每個(gè)節(jié)點(diǎn)的輸出作為輸入提供給多個(gè)節(jié)點(diǎn)中的一個(gè)或多個(gè)其他節(jié)點(diǎn)來(lái)激勵(lì)多個(gè)節(jié)點(diǎn)中的一個(gè)或多個(gè)其他節(jié)點(diǎn)。此外，多個(gè)節(jié)點(diǎn)中的第二組中的節(jié)點(diǎn)被配置為通過(guò)將第二組中的每個(gè)節(jié)點(diǎn)的輸出作為處理單元輸入提供給相應(yīng)的處理單元來(lái)抑制多個(gè)節(jié)點(diǎn)中的一個(gè)或多個(gè)其他節(jié)點(diǎn)，每個(gè)相應(yīng)的處理單元被配置為將處理單元輸出作為輸入提供給一個(gè)或多個(gè)其他節(jié)點(diǎn)。多個(gè)節(jié)點(diǎn)中的每個(gè)節(jié)點(diǎn)屬于節(jié)點(diǎn)中的第一組和第二組中的一個(gè)。

3、根據(jù)一些實(shí)施例，系統(tǒng)輸入包括多個(gè)語(yǔ)境/任務(wù)的傳感器數(shù)據(jù)。

4、根據(jù)一些實(shí)施例，更新單元包括針對(duì)每個(gè)權(quán)重的用于增加權(quán)重的概率值，并且在學(xué)習(xí)模式期間，數(shù)據(jù)處理系統(tǒng)被配置為通過(guò)以下方式來(lái)限制節(jié)點(diǎn)抑制或激勵(lì)一個(gè)或多個(gè)其他節(jié)點(diǎn)的能力：提供與到一個(gè)或多個(gè)其他節(jié)點(diǎn)的輸入相關(guān)聯(lián)的所有權(quán)重的總和的第一設(shè)定點(diǎn)，將第一設(shè)定點(diǎn)和與到一個(gè)或多個(gè)其他節(jié)點(diǎn)的輸入相關(guān)聯(lián)的所有權(quán)重的總和進(jìn)行比較，若所述第一設(shè)定點(diǎn)小于與到所述一個(gè)或多個(gè)其他節(jié)點(diǎn)的所述輸入相關(guān)聯(lián)的所有權(quán)重的總和，則減小與所述權(quán)重相關(guān)聯(lián)的所述概率值，所述權(quán)重與到所述一個(gè)或多個(gè)其他節(jié)點(diǎn)的所述輸入相關(guān)聯(lián)，以及若所述第一設(shè)定點(diǎn)大于與到所述一個(gè)或多個(gè)其他節(jié)點(diǎn)的所述輸入相關(guān)聯(lián)的所有權(quán)重的總和，則增加與所述權(quán)重相關(guān)聯(lián)的所述概率值，所述權(quán)重與到所述一個(gè)或多個(gè)其他節(jié)點(diǎn)的所述輸入相關(guān)聯(lián)。由此，每個(gè)節(jié)點(diǎn)的唯一性得到改善，學(xué)習(xí)得到改善/加速，和/或，精度/準(zhǔn)確度得到改善/增加。

5、根據(jù)一些實(shí)施例，在學(xué)習(xí)模式期間，數(shù)據(jù)處理系統(tǒng)被配置為通過(guò)以下方式來(lái)限制系統(tǒng)輸入抑制或激勵(lì)一個(gè)或多個(gè)節(jié)點(diǎn)的能力：提供與到一個(gè)或多個(gè)節(jié)點(diǎn)的輸入相關(guān)聯(lián)的所有權(quán)重的總和的第一設(shè)定點(diǎn)，將第一設(shè)定點(diǎn)和與到一個(gè)或多個(gè)節(jié)點(diǎn)的輸入相關(guān)聯(lián)的所有權(quán)重的總和進(jìn)行比較，若所述第一設(shè)定點(diǎn)小于與到所述一個(gè)或多個(gè)節(jié)點(diǎn)的所述輸入相關(guān)聯(lián)的所有權(quán)重的總和，則減小與所述權(quán)重相關(guān)聯(lián)的所述概率值，所述權(quán)重與到所述一個(gè)或多個(gè)節(jié)點(diǎn)的所述輸入相關(guān)聯(lián)，以及若所述第一設(shè)定點(diǎn)大于與到所述一個(gè)或多個(gè)節(jié)點(diǎn)的所述輸入相關(guān)聯(lián)的所有權(quán)重的總和，則增加與所述權(quán)重相關(guān)聯(lián)的所述概率值，所述權(quán)重與到所述一個(gè)或多個(gè)節(jié)點(diǎn)的所述輸入相關(guān)聯(lián)。由此，學(xué)習(xí)得到改善/加速，和/或，精度/準(zhǔn)確度得到改善/增加。

6、根據(jù)一些實(shí)施例，到一個(gè)或多個(gè)其他節(jié)點(diǎn)的每個(gè)輸入在網(wǎng)絡(luò)空間中具有坐標(biāo)，并且到一個(gè)或多個(gè)其他節(jié)點(diǎn)的輸入的權(quán)重的減少/增加量是基于與權(quán)重相關(guān)聯(lián)的輸入在網(wǎng)絡(luò)空間中的坐標(biāo)之間的距離。

7、根據(jù)一些實(shí)施例，該系統(tǒng)還被配置為若權(quán)重在預(yù)設(shè)時(shí)間段內(nèi)不增加，則將權(quán)重設(shè)置為零。

8、根據(jù)一些實(shí)施例，該系統(tǒng)還被配置為若與到一個(gè)或多個(gè)其他節(jié)點(diǎn)的輸入相關(guān)聯(lián)的所有權(quán)重的總和在預(yù)設(shè)時(shí)間段內(nèi)不超過(guò)第一設(shè)定點(diǎn)，則增加具有零值的權(quán)重的概率值。

9、根據(jù)一些實(shí)施例，在學(xué)習(xí)模式期間，數(shù)據(jù)處理系統(tǒng)被配置為通過(guò)以下方式來(lái)增加節(jié)點(diǎn)的輸出與一個(gè)或多個(gè)其他節(jié)點(diǎn)的相關(guān)性：提供與到一個(gè)或多個(gè)其他節(jié)點(diǎn)的輸入相關(guān)聯(lián)的所有權(quán)重的總和的第一設(shè)定點(diǎn)，在第一時(shí)間段內(nèi)將第一設(shè)定點(diǎn)和與到一個(gè)或多個(gè)其他節(jié)點(diǎn)的輸入相關(guān)聯(lián)的所有權(quán)重的總和進(jìn)行比較，若在所述第一時(shí)間段的整個(gè)長(zhǎng)度上所述第一設(shè)定點(diǎn)小于與到所述一個(gè)或多個(gè)其他節(jié)點(diǎn)的輸入相關(guān)聯(lián)的所有權(quán)重的總和，則增加改變到所述節(jié)點(diǎn)的輸入的權(quán)重的概率，并且若在所述第一時(shí)間段的整個(gè)長(zhǎng)度上所述第一設(shè)定點(diǎn)大于與到所述一個(gè)或多個(gè)其他節(jié)點(diǎn)的輸入相關(guān)聯(lián)的所有權(quán)重的總和，則減小改變到所述節(jié)點(diǎn)的輸入的權(quán)重的概率。由此，學(xué)習(xí)得到改善/加速，和/或，精度/準(zhǔn)確度得到改善/增加。

10、根據(jù)一些實(shí)施例，更新單元包括針對(duì)每個(gè)權(quán)重的用于增加權(quán)重的概率值，并且其中，在學(xué)習(xí)模式期間，數(shù)據(jù)處理系統(tǒng)被配置為提供與到節(jié)點(diǎn)的輸入相關(guān)聯(lián)的所有權(quán)重的總和的第二設(shè)定點(diǎn)，數(shù)據(jù)處理系統(tǒng)被配置為計(jì)算與到節(jié)點(diǎn)的輸入相關(guān)聯(lián)的所有權(quán)重的總和，被配置為將所計(jì)算的總和與第二設(shè)定點(diǎn)進(jìn)行比較，并且若計(jì)算的總和大于第二設(shè)定點(diǎn)，被配置為減小與所述權(quán)重相關(guān)聯(lián)的所述概率值，所述權(quán)重與到所述節(jié)點(diǎn)的所述輸入相關(guān)聯(lián)，以及若所計(jì)算的總和小于所述第二設(shè)定點(diǎn)，則被配置為增加與所述權(quán)重相關(guān)聯(lián)的所述概率值，所述權(quán)重與到所述節(jié)點(diǎn)的所述輸入相關(guān)聯(lián)。由此，學(xué)習(xí)得到改善/加速，和/或，精度/準(zhǔn)確度得到改善/增加。

11、根據(jù)一些實(shí)施例，每個(gè)節(jié)點(diǎn)包括多個(gè)隔室，并且每個(gè)隔室被配置為具有多個(gè)隔室輸入，每個(gè)隔室包括針對(duì)每個(gè)隔室輸入的隔室權(quán)重，并且每個(gè)隔室被配置為產(chǎn)生隔室輸出，并且每個(gè)隔室包括更新單元，該更新單元被配置為在學(xué)習(xí)模式期間基于相關(guān)性來(lái)更新隔室權(quán)重，并且每個(gè)隔室的隔室輸出用于基于傳遞函數(shù)來(lái)調(diào)整包括隔室的節(jié)點(diǎn)的輸出。由此，使每個(gè)單個(gè)節(jié)點(diǎn)更有用/強(qiáng)大(例如，增加容量)，學(xué)習(xí)得到改善/加速，和/或，精度/準(zhǔn)確度得到改善/增加。

12、根據(jù)一些實(shí)施例，在學(xué)習(xí)模式期間，數(shù)據(jù)處理系統(tǒng)被配置為：通過(guò)將系統(tǒng)輸入在第二時(shí)間段內(nèi)的累積權(quán)重變化與閾值進(jìn)行比較來(lái)檢測(cè)網(wǎng)絡(luò)是否稀疏連接；以及若數(shù)據(jù)處理系統(tǒng)檢測(cè)到網(wǎng)絡(luò)是稀疏連接的，則通過(guò)在第三時(shí)間段的持續(xù)時(shí)間內(nèi)將預(yù)定波形添加到多個(gè)節(jié)點(diǎn)中的一個(gè)或多個(gè)的輸出來(lái)增加多個(gè)節(jié)點(diǎn)中的一個(gè)或多個(gè)的輸出。由此，實(shí)現(xiàn)了一種更高效的數(shù)據(jù)處理系統(tǒng)，其可以在給定的的網(wǎng)絡(luò)資源下處理更廣泛的語(yǔ)境/任務(wù)，從而降低功耗。

13、根據(jù)一些實(shí)施例，每個(gè)節(jié)點(diǎn)包括更新單元，每個(gè)更新單元被配置為基于節(jié)點(diǎn)的每個(gè)相應(yīng)輸入與該節(jié)點(diǎn)的輸出的相關(guān)性來(lái)更新相應(yīng)節(jié)點(diǎn)的權(quán)重，并且每個(gè)更新單元被配置為若關(guān)聯(lián)節(jié)點(diǎn)屬于多個(gè)節(jié)點(diǎn)中的第一組，則將第一函數(shù)應(yīng)用于相關(guān)性，若所述關(guān)聯(lián)節(jié)點(diǎn)屬于所述多個(gè)節(jié)點(diǎn)中的所述第二組，則將不同于所述第一函數(shù)的第二函數(shù)應(yīng)用于所述相關(guān)性，以便在所述學(xué)習(xí)模式期間更新所述權(quán)重。通過(guò)基于該節(jié)點(diǎn)的每個(gè)相應(yīng)輸入與該(相同)節(jié)點(diǎn)的輸出的相關(guān)性來(lái)更新相應(yīng)節(jié)點(diǎn)的權(quán)重，并且若關(guān)聯(lián)節(jié)點(diǎn)屬于多個(gè)節(jié)點(diǎn)中的第一組，則將第一函數(shù)應(yīng)用于相關(guān)性，并且若關(guān)聯(lián)節(jié)點(diǎn)屬于多個(gè)節(jié)點(diǎn)中的第二組，則將不同于第一函數(shù)的第二函數(shù)應(yīng)用于相關(guān)性，以便更新權(quán)重(在學(xué)習(xí)模式期間)，使得每個(gè)節(jié)點(diǎn)更獨(dú)立于其他節(jié)點(diǎn)，并且獲得更高的精度(與現(xiàn)有技術(shù)例如反向傳播相比)。因此，技術(shù)效果是更高的精度/準(zhǔn)確度被實(shí)現(xiàn)/獲得。

14、根據(jù)一些實(shí)施例，數(shù)據(jù)處理系統(tǒng)被配置為在已經(jīng)執(zhí)行權(quán)重的更新之后，計(jì)算網(wǎng)絡(luò)的節(jié)點(diǎn)的輸出的總體方差，將所計(jì)算的總體方差與冪律進(jìn)行比較；以及通過(guò)調(diào)整所述網(wǎng)絡(luò)的參數(shù)來(lái)最小化所述總體與所述冪律之間的誤差或均方誤差。因此，使每個(gè)節(jié)點(diǎn)更獨(dú)立于其他節(jié)點(diǎn)(并且可以獲得節(jié)點(diǎn)彼此之間的獨(dú)立程度的度量)。因此，實(shí)現(xiàn)了一種更有效的數(shù)據(jù)處理系統(tǒng)，其可以在給定的的網(wǎng)絡(luò)資源下處理更廣泛的語(yǔ)境/任務(wù)，從而降低功耗。

15、根據(jù)一些實(shí)施例，數(shù)據(jù)處理系統(tǒng)被配置為在處于學(xué)習(xí)模式時(shí)從傳感器數(shù)據(jù)中學(xué)習(xí)以識(shí)別一個(gè)或多個(gè)實(shí)體，并且此后數(shù)據(jù)處理系統(tǒng)被配置為在處于執(zhí)行模式時(shí)識(shí)別一個(gè)或多個(gè)實(shí)體，并且所識(shí)別的實(shí)體是以下中的一個(gè)或多個(gè)：傳感器數(shù)據(jù)中存在的說(shuō)話者、口語(yǔ)字母、音節(jié)、音素、單詞或短語(yǔ)、或傳感器數(shù)據(jù)中存在的對(duì)象或?qū)ο蟮奶卣?、或傳感器?shù)據(jù)中存在的新接觸事件、接觸事件的結(jié)束、手勢(shì)或施加的壓力。在一些實(shí)施例中，識(shí)別一個(gè)或多個(gè)實(shí)體或其可測(cè)量特征的更高精度/準(zhǔn)確度被實(shí)現(xiàn)/獲得。

16、根據(jù)一些實(shí)施例，網(wǎng)絡(luò)是循環(huán)神經(jīng)網(wǎng)絡(luò)。

17、根據(jù)一些實(shí)施例，網(wǎng)絡(luò)是遞歸神經(jīng)網(wǎng)絡(luò)。

18、根據(jù)第二方面，提供一種用于處理數(shù)據(jù)的計(jì)算機(jī)實(shí)現(xiàn)的或硬件實(shí)現(xiàn)的方法。該方法包括a)接收包括待處理數(shù)據(jù)的一個(gè)或多個(gè)系統(tǒng)輸入；b)向包括多個(gè)第一節(jié)點(diǎn)的網(wǎng)絡(luò)nw提供多個(gè)輸入，所述多個(gè)輸入中的至少一個(gè)是系統(tǒng)輸入；c)從每個(gè)第一節(jié)點(diǎn)接收輸出；d)提供系統(tǒng)輸出，系統(tǒng)輸出包括每個(gè)第一節(jié)點(diǎn)的輸出；e)由所述多個(gè)節(jié)點(diǎn)中的第一組中的節(jié)點(diǎn)通過(guò)將節(jié)點(diǎn)中的第一組中的每個(gè)節(jié)點(diǎn)的輸出作為輸入提供給所述多個(gè)節(jié)點(diǎn)中的一個(gè)或多個(gè)其他節(jié)點(diǎn)，來(lái)激勵(lì)所述多個(gè)節(jié)點(diǎn)中的一個(gè)或多個(gè)其他節(jié)點(diǎn)；f)由所述多個(gè)節(jié)點(diǎn)中的第二組中的節(jié)點(diǎn)通過(guò)將所述第二組的每個(gè)節(jié)點(diǎn)的輸出作為處理單元輸入提供給相應(yīng)的處理單元來(lái)抑制所述多個(gè)節(jié)點(diǎn)中的一個(gè)或多個(gè)其他節(jié)點(diǎn)，每個(gè)相應(yīng)的處理單元被配置為將所述處理單元輸出作為輸入提供給所述一個(gè)或多個(gè)其他節(jié)點(diǎn)；以及g)可選地由一個(gè)或多個(gè)更新單元基于相關(guān)性來(lái)更新權(quán)重，h)可選地重復(fù)a)-g)直到滿足學(xué)習(xí)標(biāo)準(zhǔn)，以及i)重復(fù)a)-f)直到滿足停止標(biāo)準(zhǔn)，并且所述多個(gè)節(jié)點(diǎn)中的每個(gè)節(jié)點(diǎn)屬于節(jié)點(diǎn)的所述第一組和第二組點(diǎn)中的一個(gè)。

19、根據(jù)一些實(shí)施例，該方法還包括通過(guò)將權(quán)重設(shè)置為零以及在第三時(shí)間段的持續(xù)時(shí)間內(nèi)將預(yù)定波形添加到多個(gè)節(jié)點(diǎn)中的一個(gè)或多個(gè)節(jié)點(diǎn)的輸出來(lái)初始化權(quán)重，第三時(shí)間段開(kāi)始于接收包括待處理數(shù)據(jù)的一個(gè)或多個(gè)系統(tǒng)輸入的時(shí)間。

20、根據(jù)一些實(shí)施例，該方法還包括：通過(guò)向權(quán)重隨機(jī)分配位于0和1之間的數(shù)值來(lái)初始化權(quán)重，以及在第三時(shí)間段的持續(xù)時(shí)間內(nèi)將預(yù)定波形添加到多個(gè)節(jié)點(diǎn)中的一個(gè)或多個(gè)節(jié)點(diǎn)的輸出。

21、根據(jù)第三方面，提供了一種包括非臨時(shí)性計(jì)算機(jī)可讀介質(zhì)的計(jì)算機(jī)程序產(chǎn)品，該非臨時(shí)性計(jì)算機(jī)可讀介質(zhì)上存儲(chǔ)有包括程序指令的計(jì)算機(jī)程序，該計(jì)算機(jī)程序可加載到數(shù)據(jù)處理單元中，并且被配置為當(dāng)計(jì)算機(jī)程序由數(shù)據(jù)處理單元運(yùn)行時(shí)，所述計(jì)算機(jī)程序被配置為執(zhí)行第三方面或上述任一實(shí)施例的方法。

22、第二和第三方面的效果和特征在很大程度上與上述第一方面相關(guān)的描述的效果和特征相似，反之亦然。關(guān)于第一方面提到的實(shí)施例在很大程度上與第二和第三方面兼容，反之亦然。

23、一些實(shí)施例的優(yōu)點(diǎn)是例如在學(xué)習(xí)/訓(xùn)練模式期間更有效地處理數(shù)據(jù)/信息。

24、一些實(shí)施例的另一個(gè)優(yōu)點(diǎn)是提供了高效的網(wǎng)絡(luò)，例如，使可用網(wǎng)絡(luò)容量的利用率最大化，從而提供了更高效的數(shù)據(jù)處理系統(tǒng)。

25、一些實(shí)施例的另一個(gè)優(yōu)點(diǎn)是系統(tǒng)/網(wǎng)絡(luò)復(fù)雜度較低，例如，具有節(jié)點(diǎn)的數(shù)量減少(具有相同的精度和/或用于相同的語(yǔ)境/輸入范圍)。

26、一些實(shí)施例的又一個(gè)優(yōu)點(diǎn)是數(shù)據(jù)使用效率更高。

27、一些實(shí)施例的另一個(gè)優(yōu)點(diǎn)是改善(例如，最大化)可用網(wǎng)絡(luò)容量的利用率，從而提供高效的數(shù)據(jù)處理系統(tǒng)。

28、一些實(shí)施例的又一優(yōu)點(diǎn)是系統(tǒng)/網(wǎng)絡(luò)更高效，和/或，訓(xùn)練/學(xué)習(xí)的時(shí)間更短/更快。

29、一些實(shí)施例的另一個(gè)優(yōu)點(diǎn)是提供了復(fù)雜度更低的網(wǎng)絡(luò)。

30、一些實(shí)施例的另一個(gè)優(yōu)點(diǎn)是改進(jìn)/增加的通用性(例如，跨不同的任務(wù)/語(yǔ)境)。

31、一些實(shí)施例的又一優(yōu)點(diǎn)是降低了系統(tǒng)/網(wǎng)絡(luò)對(duì)噪聲的敏感度。

32、一些實(shí)施例的其他優(yōu)點(diǎn)是性能提高、可靠性提高/增強(qiáng)、精度提高、效率提高(用于訓(xùn)練和/或性能)、訓(xùn)練/學(xué)習(xí)速度更快/時(shí)間更短、所需計(jì)算機(jī)功耗更低、所需訓(xùn)練數(shù)據(jù)更少、所需存儲(chǔ)空間更小、復(fù)雜性更低和/或能耗更低。

33、在一些實(shí)施例中，使每個(gè)節(jié)點(diǎn)更獨(dú)立于其他節(jié)點(diǎn)。這導(dǎo)致在數(shù)據(jù)處理系統(tǒng)中表示信息的總能力增加(并且因此可以例如在數(shù)據(jù)處理系統(tǒng)中表示更多信息或用于識(shí)別一個(gè)或多個(gè)實(shí)體/對(duì)象和/或一個(gè)或多個(gè)對(duì)象的一個(gè)或多個(gè)特征)，并且因此獲得更高的精度(與現(xiàn)有技術(shù)例如反向傳播相比)。

34、根據(jù)下面給出的詳細(xì)說(shuō)明書(shū)，本公開(kāi)將變得顯而易見(jiàn)。詳細(xì)的說(shuō)明書(shū)和具體實(shí)施例僅通過(guò)說(shuō)明的方式公開(kāi)了本公開(kāi)的優(yōu)選實(shí)施例。本領(lǐng)域技術(shù)人員從詳細(xì)說(shuō)明書(shū)的指導(dǎo)中可以理解，在本公開(kāi)的范圍內(nèi)進(jìn)行改變和修改。

35、因此，應(yīng)當(dāng)理解，本文公開(kāi)的公開(kāi)內(nèi)容不限于所描述的裝置的特定組成部分或所描述的方法的步驟，因?yàn)檫@些設(shè)備和方法可以變化。還應(yīng)理解的是，本文使用的術(shù)語(yǔ)僅用于描述特定的實(shí)施方案，而不具有限制性。應(yīng)當(dāng)注意的是，如在說(shuō)明書(shū)和所附權(quán)利要求書(shū)中所使用的，“一個(gè)”、“一種”、“該”和“所述”除非上下文另有明確規(guī)定，否則旨在表示存在一個(gè)或多個(gè)元件。因此，例如，對(duì)“單元”或“所述單元”可以包括若干設(shè)備等。此外，詞語(yǔ)“包括”、“包含”、“含有”并且類似措辭并不排除其他要素或步驟。