本技術(shù)涉及計(jì)算機(jī)領(lǐng)域，尤其涉及一種矩陣計(jì)算裝置、方法、系統(tǒng)、電路、芯片及設(shè)備。

背景技術(shù)：

1、矩陣計(jì)算是人工智能、科學(xué)計(jì)算、圖形計(jì)算等不同的應(yīng)用場景中重要的計(jì)算類型。矩陣是一個按照長方陣列排列的元素值的集合，矩陣中的元素值可能包含有零元素值和非零元素值這兩種數(shù)值，當(dāng)矩陣中有大量的零元素值時，為了節(jié)省存儲空間，可以僅存儲矩陣中的非零元素值，即對矩陣進(jìn)行壓縮，存儲壓縮格式的矩陣。

2、當(dāng)前技術(shù)中，針對壓縮格式的矩陣的計(jì)算常用方法是，首先需要將壓縮格式的矩陣進(jìn)行解壓縮，即將壓縮格式的矩陣轉(zhuǎn)換成非壓縮格式的矩陣，然后再針對非壓縮格式的矩陣做矩陣計(jì)算。在矩陣計(jì)算過程中，由于需要對壓縮格式的矩陣進(jìn)行解壓縮操作，且解壓縮后的數(shù)據(jù)會占用非常大的內(nèi)存空間，這使得矩陣的計(jì)算速度會受限于內(nèi)存的存取帶寬，在內(nèi)存的存取帶寬一定的情況下，矩陣的計(jì)算速度無法提升，從而導(dǎo)致計(jì)算效能較低。

技術(shù)實(shí)現(xiàn)思路

1、本技術(shù)提供一種矩陣計(jì)算裝置、方法、系統(tǒng)、電路、芯片及設(shè)備，能夠直接對壓縮格式的矩陣進(jìn)行計(jì)算，不需要將壓縮格式的矩陣進(jìn)行解壓縮，進(jìn)而能夠提升壓縮格式的矩陣的計(jì)算效能。

2、第一方面，本技術(shù)實(shí)施例提供了一種矩陣計(jì)算裝置，矩陣計(jì)算裝置包括：向量外積處理引擎和累加器；向量外積處理引擎，用于計(jì)算n個第一列向量和n個第一行向量的向量外積，得到n個中間結(jié)果矩陣，第一列向量包括第一元素值及第一元素值的行坐標(biāo)，第一行向量包括第二元素值及第二元素值的列坐標(biāo)，中間結(jié)果矩陣包括第三元素值及第三元素值的位置坐標(biāo)，位置坐標(biāo)包括第一元素值的行坐標(biāo)和第二元素值的列坐標(biāo)；其中，n個第一列向量是由壓縮格式的第一矩陣轉(zhuǎn)換得到的，n個第一行向量是由壓縮格式的第二矩陣轉(zhuǎn)換得到的，n為大于或者等于1的整數(shù)；累加器，用于根據(jù)第三元素值的位置坐標(biāo)的索引，將n個中間結(jié)果矩陣中位置坐標(biāo)相同的第三元素值進(jìn)行累加，得到結(jié)果矩陣。本技術(shù)實(shí)施例中，矩陣計(jì)算裝置基于向量外積對壓縮格式的第一矩陣和第二矩陣進(jìn)行計(jì)算，在計(jì)算的過程中，保留第一列向量中元素值的行坐標(biāo)，保留第二列向量中元素值的列坐標(biāo)，然后基于位置坐標(biāo)的索引，將位置坐標(biāo)相同的第三元素值進(jìn)行累加，從而得到兩個壓縮格式的矩陣進(jìn)行計(jì)算的結(jié)果矩陣，相對于傳統(tǒng)的需要將壓縮格式的矩陣進(jìn)行先解壓縮，然后對解壓縮后的矩陣進(jìn)行矩陣計(jì)算的方法，本技術(shù)實(shí)施例中提供的矩陣計(jì)算裝置能夠有效提升壓縮格式的矩陣的計(jì)算效能。

3、在一種可選的實(shí)現(xiàn)方式中，n個中間結(jié)果矩陣至少包括第一中間結(jié)果矩陣和第二中間結(jié)果矩陣，第一中間結(jié)果矩陣中第三元素值的位置坐標(biāo)為第一位置坐標(biāo)，第二中間結(jié)果矩陣中第三元素值的位置坐標(biāo)為第二位置坐標(biāo)；累加器用于按照n個中間結(jié)果矩陣的產(chǎn)生順序，將第一中間結(jié)果矩陣中第三元素值按照第一位置坐標(biāo)寫入緩存器中的對應(yīng)位置；然后再根據(jù)第二中間結(jié)果矩陣中第三元素值的第二位置坐標(biāo)，讀取第二位置坐標(biāo)在緩存器中對應(yīng)位置的緩存值，將第二中間結(jié)果矩陣中第三元素值和緩存值進(jìn)行累加，得到非壓縮格式的結(jié)果矩陣。在上述可選的實(shí)現(xiàn)方式中，矩陣計(jì)算裝置可以根據(jù)不同的應(yīng)用場景輸出非壓縮格式的矩陣，增加了矩陣計(jì)算裝置的適用場景。

4、在一種可選的實(shí)現(xiàn)方式中，矩陣計(jì)算裝置還包括矩陣壓縮單元；矩陣壓縮單元用于壓縮非壓縮格式的結(jié)果矩陣，得到壓縮格式的結(jié)果矩陣。在上述可選的實(shí)現(xiàn)方式中，矩陣計(jì)算裝置可以根據(jù)不同的應(yīng)用場景輸出壓縮格式的矩陣，增加了矩陣計(jì)算裝置的適用場景。并且矩陣計(jì)算裝置將結(jié)果矩陣進(jìn)行壓縮，輸出壓縮格式的矩陣，從而節(jié)省傳輸資源或便于下一步計(jì)算操作。

5、在一種可選的實(shí)現(xiàn)方式中，累加器還具體用于：將n個中間結(jié)果矩陣中第三元素值按照第三元素值的位置坐標(biāo)進(jìn)行排序，例如，按照第三元素值的行坐標(biāo)進(jìn)行排序，或者，按照第三元素值的列坐標(biāo)進(jìn)行排序；然后將排序后的n個中間結(jié)果矩陣中的位置坐標(biāo)進(jìn)行比對，將位置坐標(biāo)相同的第三元素值相加，并刪除零元素值的位置坐標(biāo)，得到壓縮格式的結(jié)果矩陣。在上述可選的實(shí)現(xiàn)方式中，可以直接得到壓縮格式的矩陣，矩陣計(jì)算裝置輸出的壓縮格式的矩陣可以應(yīng)用于某些后續(xù)計(jì)算需要壓縮格式的矩陣的應(yīng)用場景。且由于矩陣計(jì)算裝置輸出的是壓縮格式的矩陣，可以減少后續(xù)傳輸矩陣的傳輸資源。

6、在一種可選的實(shí)現(xiàn)方式中，矩陣計(jì)算裝置還包括格式轉(zhuǎn)換單元；格式轉(zhuǎn)換單元，用于獲取第一矩陣和第二矩陣，將第一矩陣轉(zhuǎn)換成n個第一列向量，并保留第一列向量中第一元素值的行坐標(biāo)，將第二矩陣轉(zhuǎn)換成n個第一行向量，并保留第一行向量中第一元素值的列坐標(biāo)，從而可以使得矩陣計(jì)算裝置可以基于向量外積對兩個壓縮格式矩陣進(jìn)行計(jì)算。

7、在一種可選的實(shí)現(xiàn)方式中，矩陣計(jì)算裝置還包括格式轉(zhuǎn)換單元；格式轉(zhuǎn)換單元用于獲取第五矩陣和第六矩陣，對第五矩陣進(jìn)行格式轉(zhuǎn)換，得到第一矩陣，對第六矩陣進(jìn)行格式轉(zhuǎn)換，得到第二矩陣，其中，第五矩陣和第六矩陣中至少有一個矩陣為非壓縮格式的矩陣。在上述可選的實(shí)現(xiàn)方式中，矩陣計(jì)算裝置可以接收非壓縮格式的矩陣，然后將非壓縮格式的矩陣轉(zhuǎn)換成壓縮格式的矩陣，從而使得矩陣計(jì)算裝置可以支持多種格式的矩陣計(jì)算。

8、在一種可選的實(shí)現(xiàn)方式中，矩陣計(jì)算裝置還包括格式轉(zhuǎn)換單元，格式轉(zhuǎn)換單元還用于將第一列向量拆分為x個第二列向量，將第一行向量拆分為x個第二行向量，其中，第二列向量和第二行向量包含的元素值的精度為第二精度，第一列向量和第一行向量中包括的元素值的精度為第一精度，而且第一精度高于第二精度，x為大于或者等于2的整數(shù)；向量外積處理引擎，還用于計(jì)算x個第二列向量和x個第二行向量的向量外積，得到x2個第四矩陣，第四矩陣包括第四元素值及第四元素值的位置坐標(biāo)，第四元素值的位置坐標(biāo)包括第一元素值的行坐標(biāo)和第二元素值的列坐標(biāo)，第四元素值的精度為第一精度；然后累加器還用于根據(jù)第四元素值的位置坐標(biāo)的索引，將x2個第四矩陣中位置坐標(biāo)相同的第四元素值累加，得到中間結(jié)果矩陣，中間結(jié)果矩陣中的第三元素值的精度為第一精度。在上述可選的實(shí)現(xiàn)方式中，矩陣計(jì)算裝置可基于低精度的矩陣計(jì)算裝置實(shí)現(xiàn)高精度的矩陣計(jì)算，從而提高矩陣計(jì)算單元的適用性。

9、第二方面，本技術(shù)實(shí)施例提供了一種矩陣計(jì)算方法，該方法應(yīng)用于矩陣計(jì)算裝置，方法包括：首先，獲取第一計(jì)算指令，第一計(jì)算指令包括n個第一列向量和n個第一行向量；然后，計(jì)算n個第一列向量和n個第一行向量的向量外積，得到n個中間結(jié)果矩陣，其中，第一列向量包括第一元素值及第一元素值的行坐標(biāo)，第一行向量包括第二元素值及第二元素值的列坐標(biāo)，中間結(jié)果矩陣包括第三元素值及第三元素值的位置坐標(biāo)，位置坐標(biāo)包括第一元素值的行坐標(biāo)和第二元素值的列坐標(biāo)；n個第一列向量是由壓縮格式的第一矩陣轉(zhuǎn)換得到的，n個第一行向量是由壓縮格式的第二矩陣轉(zhuǎn)換得到的，n為大于或者等于1的整數(shù)；最后，根據(jù)第三元素值的位置坐標(biāo)的索引，將n個中間結(jié)果矩陣中位置坐標(biāo)相同的第三元素值進(jìn)行累加，得到結(jié)果矩陣。本技術(shù)實(shí)施例中，基于n個第一列向量和n個第一行向量的向量外積對第一矩陣和第二矩陣進(jìn)行計(jì)算，在計(jì)算的過程中，保留第一列向量中元素值的行坐標(biāo)，保留第二列向量中元素值的列坐標(biāo)，然后基于位置坐標(biāo)的索引，將位置坐標(biāo)相同的第三元素值進(jìn)行累加，從而得到兩個壓縮格式的矩陣進(jìn)行計(jì)算的結(jié)果矩陣，相對于傳統(tǒng)的需要將壓縮格式的矩陣進(jìn)行先解壓縮，然后對解壓縮后的矩陣進(jìn)行矩陣計(jì)算的方法，本技術(shù)實(shí)施例中提供的矩陣計(jì)算裝置能夠有效提升壓縮格式的矩陣的計(jì)算效能。

10、在一種可選的實(shí)現(xiàn)方式中，n個中間結(jié)果矩陣至少包括第一中間結(jié)果矩陣和第二中間結(jié)果矩陣，第一中間結(jié)果矩陣中第三元素值的位置坐標(biāo)為第一位置坐標(biāo)，第二中間結(jié)果矩陣中第三元素值的位置坐標(biāo)為第二位置坐標(biāo)；該方法中根據(jù)第三元素值的位置坐標(biāo)的索引，將n個中間結(jié)果矩陣中位置坐標(biāo)相同的第三元素值進(jìn)行累加，得到結(jié)果矩陣可以具體包括：先按照n個中間結(jié)果矩陣的產(chǎn)生順序，將第一中間結(jié)果矩陣中第三元素值按照第一位置坐標(biāo)寫入緩存器中的對應(yīng)位置；然后進(jìn)一步根據(jù)第二中間結(jié)果矩陣中第三元素值的第二位置坐標(biāo)，讀取第二位置坐標(biāo)在緩存器中對應(yīng)位置的緩存值，將第二中間結(jié)果矩陣中第三元素值和緩存值進(jìn)行累加，得到非壓縮格式的結(jié)果矩陣。在上述可選的實(shí)現(xiàn)方式中，矩陣計(jì)算裝置可以根據(jù)不同的應(yīng)用場景輸出非壓縮格式的矩陣，增加了矩陣計(jì)算裝置的適用場景。

11、在一種可選的實(shí)現(xiàn)方式中，該方法還包括：壓縮非壓縮格式的結(jié)果矩陣，得到壓縮格式的結(jié)果矩陣。在上述可選的實(shí)現(xiàn)方式中，矩陣計(jì)算裝置可以根據(jù)不同的應(yīng)用場景輸出壓縮格式的矩陣，增加了矩陣計(jì)算裝置的適用場景。并且矩陣計(jì)算裝置將結(jié)果矩陣進(jìn)行壓縮，輸出壓縮格式的矩陣，從而節(jié)省傳輸資源或便于下一步計(jì)算操作。

12、在一種可選的實(shí)現(xiàn)方式中，該方法中根據(jù)第三元素值的位置坐標(biāo)的索引，將n個中間結(jié)果矩陣中位置坐標(biāo)相同的第三元素值進(jìn)行累加得到結(jié)果矩陣，可以具體包括：首先，將n個中間結(jié)果矩陣中第三元素值按照第三元素值的位置坐標(biāo)進(jìn)行排序，例如，按照第三元素值的行坐標(biāo)進(jìn)行排序，或者，按照第三元素值的列坐標(biāo)進(jìn)行排序；將排序后的n個中間結(jié)果矩陣中的位置坐標(biāo)進(jìn)行比對，將位置坐標(biāo)相同的第三元素值相加，并刪除零元素值的位置坐標(biāo)，得到壓縮格式的結(jié)果矩陣。在上述可選的實(shí)現(xiàn)方式中，可以直接得到壓縮格式的矩陣，矩陣計(jì)算裝置輸出的壓縮格式的矩陣可以應(yīng)用于某些后續(xù)計(jì)算需要壓縮格式的矩陣的應(yīng)用場景。且由于矩陣計(jì)算裝置輸出的是壓縮格式的矩陣，可以減少后續(xù)傳輸矩陣的傳輸資源。

13、在一種可選的實(shí)現(xiàn)方式中，在獲取第一計(jì)算指令之前，該方法還包括：獲取第二計(jì)算指令，第二計(jì)算指令包括第一矩陣和第二矩陣；將第一矩陣轉(zhuǎn)換成n個第一列向量，并保留第一列向量中第一元素值的行坐標(biāo)，將第二矩陣轉(zhuǎn)換成n個第一行向量，并保留第一行向量中第一元素值的列坐標(biāo)，從而可以使得矩陣計(jì)算裝置可以基于向量外積對兩個壓縮格式矩陣進(jìn)行計(jì)算。

14、在一種可選的實(shí)現(xiàn)方式中，在獲取第二計(jì)算指令之前，該方法還包括：獲取第三計(jì)算指令，第三計(jì)算指令包括第五矩陣和第六矩陣，其中，第五矩陣和第六矩陣中至少有一個矩陣為非壓縮格式的矩陣；然后對第五矩陣進(jìn)行格式轉(zhuǎn)換，得到壓縮格式的第一矩陣，對第六矩陣進(jìn)行格式轉(zhuǎn)換，得到第二矩陣。在上述可選的實(shí)現(xiàn)方式中，矩陣計(jì)算裝置可以接收非壓縮格式的矩陣，然后將非壓縮格式的矩陣轉(zhuǎn)換成壓縮格式的矩陣，從而使得矩陣計(jì)算裝置可以支持多種格式的矩陣計(jì)算。

15、在一種可選的實(shí)現(xiàn)方式中，可以先將第一列向量拆分成x個第二列向量，將第一行向量拆分成x個第二行向量，其中，第二列向量和第二行向量包含的元素值的精度為第二精度，第一列向量和第一行向量中包括的元素值的精度為第一精度；第一精度高于第二精度，x為大于或者等于2的整數(shù)；該方法中計(jì)算n個第一列向量和n個第一行向量的向量外積，得到n個中間結(jié)果矩陣可以包括：計(jì)算x個第二列向量和x個第二行向量的向量外積，得到x2個第四矩陣，第四矩陣包括第四元素值及第四元素值的位置坐標(biāo)，第四元素值的位置坐標(biāo)包括第一元素值的行坐標(biāo)和第二元素值的列坐標(biāo)，第四元素值的精度為第一精度；再進(jìn)一步的根據(jù)第四元素值的位置坐標(biāo)的索引，將x2個第四矩陣中位置坐標(biāo)相同的第四元素值累加，得到中間結(jié)果矩陣，中間結(jié)果矩陣中的第三元素值的精度為第一精度。在上述可選的實(shí)現(xiàn)方式中，矩陣計(jì)算裝置可基于低精度的矩陣計(jì)算裝置實(shí)現(xiàn)高精度的矩陣計(jì)算，從而提高矩陣計(jì)算單元的適用性。

16、第三方面，提供一種矩陣計(jì)算電路，該矩陣計(jì)算電路用于執(zhí)行上述第二方面或者第二方面的任一種可能的實(shí)現(xiàn)方式所提供的矩陣計(jì)算方法的操作步驟。

17、第四方面，提供一種矩陣計(jì)算系統(tǒng)，該系統(tǒng)包括處理器和矩陣計(jì)算裝置，該處理器用于向該矩陣計(jì)算裝置發(fā)送計(jì)算指令，該矩陣計(jì)算裝置用于執(zhí)行上述第二方面或者第二方面的任一種可能的實(shí)現(xiàn)方式所提供的矩陣計(jì)算方法的操作步驟。

18、第五方面，提供一種芯片，該芯片包括處理器，該處理器中集成有矩陣計(jì)算裝置，該矩陣計(jì)算裝置用于執(zhí)行上述第二方面或者第二方面的任一種可能的實(shí)現(xiàn)方式所提供的矩陣計(jì)算方法的操作步驟。

19、第六方面，提供一種矩陣計(jì)算設(shè)備，該設(shè)備包括上述第四方面所提供的矩陣計(jì)算系統(tǒng)、或者上述第五方面所提供的芯片。

20、第七方面，提供一種可讀存儲介質(zhì)，該可讀存儲介質(zhì)中存儲有指令，當(dāng)該可讀存儲介質(zhì)在設(shè)備上運(yùn)行時，使得該設(shè)備執(zhí)行第二方面或者第二方面的任一項(xiàng)可能的實(shí)現(xiàn)方式所提供的矩陣計(jì)算方法的操作步驟。

21、第八方面，提供一種計(jì)算機(jī)程序產(chǎn)品，當(dāng)該計(jì)算機(jī)程序產(chǎn)品在計(jì)算機(jī)上運(yùn)行時，使得該計(jì)算機(jī)執(zhí)行第二方面或者第二方面的任一項(xiàng)可能的實(shí)現(xiàn)方式所提供的矩陣計(jì)算方法的操作步驟。

22、可以理解地，上述提供的任一種矩陣計(jì)算方法的裝置、計(jì)算機(jī)存儲介質(zhì)或者計(jì)算機(jī)程序產(chǎn)品均用于執(zhí)行上文所提供的對應(yīng)的方法，因此，其所能達(dá)到的有益效果可參考上文所提供的對應(yīng)的方法中的有益效果，此處不再贅述。

23、本技術(shù)在上述各方面提供的實(shí)現(xiàn)方式的基礎(chǔ)上，還可以進(jìn)行進(jìn)一步組合以提供更多實(shí)現(xiàn)方式。