本公開涉及計(jì)算機(jī)，尤其是一種通過(guò)神經(jīng)網(wǎng)絡(luò)加速器對(duì)特征數(shù)據(jù)進(jìn)行計(jì)算的方法、裝置、計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)及電子設(shè)備。
背景技術(shù)：
1、神經(jīng)網(wǎng)絡(luò)加速器(npu，neural?processing?unit)是一種專門用于進(jìn)行深度學(xué)習(xí)計(jì)算的芯片，它是近年來(lái)人工智能領(lǐng)域的熱門技術(shù)之一，被廣泛應(yīng)用于各種人工智能應(yīng)用中，如自動(dòng)駕駛、人臉識(shí)別、智能語(yǔ)音等領(lǐng)域。
2、在利用神經(jīng)網(wǎng)絡(luò)加速器進(jìn)行定點(diǎn)數(shù)據(jù)計(jì)算的過(guò)程中，通常利用傳統(tǒng)的二進(jìn)制補(bǔ)碼的形式進(jìn)行計(jì)算，二級(jí)制數(shù)據(jù)在內(nèi)部電路傳輸時(shí)，由于存在較多連續(xù)的0或1，當(dāng)一組存儲(chǔ)單元中的數(shù)據(jù)發(fā)生更新時(shí)(例如由負(fù)數(shù)變?yōu)檎龜?shù))，會(huì)導(dǎo)致存儲(chǔ)單元中產(chǎn)生大量的數(shù)據(jù)位翻轉(zhuǎn)，這些數(shù)據(jù)位翻轉(zhuǎn)導(dǎo)致了大量功耗開銷，影響神經(jīng)網(wǎng)絡(luò)加速器的計(jì)算效率。
3、例如，輸入神經(jīng)網(wǎng)絡(luò)加速器的權(quán)重?cái)?shù)據(jù)通常會(huì)預(yù)先進(jìn)行一系列處理，使得權(quán)重?cái)?shù)據(jù)盡可能集中在0點(diǎn)附近。采用傳統(tǒng)二進(jìn)制補(bǔ)碼方式對(duì)這些以0為中心點(diǎn)的數(shù)據(jù)進(jìn)行編碼后，大部分權(quán)重的高位數(shù)據(jù)往往顯示為全0或者全1，全0或者全1的數(shù)據(jù)在神經(jīng)網(wǎng)絡(luò)加速器的電路中傳輸時(shí)，對(duì)于一組存儲(chǔ)單元，會(huì)導(dǎo)致該組存儲(chǔ)單元的數(shù)據(jù)更新時(shí)由全0變?yōu)槿?，或由全1變?yōu)槿?，即發(fā)生較多次的數(shù)據(jù)翻轉(zhuǎn)。
技術(shù)實(shí)現(xiàn)思路
1、為了解決上述技術(shù)問(wèn)題，本公開的實(shí)施例提供了一種通過(guò)神經(jīng)網(wǎng)絡(luò)加速器對(duì)特征數(shù)據(jù)進(jìn)行計(jì)算的方法、裝置、計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)及電子設(shè)備，以減少二進(jìn)制數(shù)據(jù)在神經(jīng)網(wǎng)絡(luò)加速器內(nèi)部傳輸時(shí)導(dǎo)致的存儲(chǔ)單元的數(shù)據(jù)翻轉(zhuǎn)次數(shù)。
2、本公開的實(shí)施例提供了一種通過(guò)神經(jīng)網(wǎng)絡(luò)加速器對(duì)特征數(shù)據(jù)進(jìn)行計(jì)算的方法，該方法包括：確定已編碼數(shù)據(jù)對(duì)應(yīng)的解碼方式，以及已編碼數(shù)據(jù)的第一編碼位；對(duì)第一編碼位對(duì)應(yīng)的數(shù)值進(jìn)行轉(zhuǎn)換，得到第一解碼數(shù)據(jù)；通過(guò)神經(jīng)網(wǎng)絡(luò)加速器對(duì)第一解碼數(shù)據(jù)進(jìn)行乘加運(yùn)算，得到輸出特征數(shù)據(jù)。
3、根據(jù)本公開實(shí)施例的另一個(gè)方面，提供了一種數(shù)據(jù)編碼方法，該方法包括：確定目標(biāo)數(shù)據(jù)集合的數(shù)據(jù)類型以及相應(yīng)的編碼方式；基于數(shù)據(jù)類型，確定目標(biāo)數(shù)據(jù)集合中的數(shù)據(jù)的編碼位；對(duì)目標(biāo)數(shù)據(jù)集合中的數(shù)據(jù)，按照編碼方式對(duì)編碼位進(jìn)行編碼，得到編碼數(shù)據(jù)集合；基于編碼方式和編碼位，生成解碼指令。
4、根據(jù)本公開實(shí)施例的另一個(gè)方面，提供了一種通過(guò)神經(jīng)網(wǎng)絡(luò)加速器對(duì)特征數(shù)據(jù)進(jìn)行計(jì)算的裝置，該裝置包括：第一確定模塊，用于確定已編碼數(shù)據(jù)對(duì)應(yīng)的解碼方式，以及已編碼數(shù)據(jù)的第一編碼位；轉(zhuǎn)換模塊，用于對(duì)第一編碼位對(duì)應(yīng)的數(shù)值進(jìn)行轉(zhuǎn)換，得到第一解碼數(shù)據(jù)；運(yùn)算模塊，用于通過(guò)神經(jīng)網(wǎng)絡(luò)加速器對(duì)第一解碼數(shù)據(jù)進(jìn)行乘加運(yùn)算，得到輸出特征數(shù)據(jù)。
5、根據(jù)本公開實(shí)施例的另一個(gè)方面，提供了一種數(shù)據(jù)編碼裝置，該裝置包括：第二確定模塊，用于確定目標(biāo)數(shù)據(jù)集合的數(shù)據(jù)類型以及相應(yīng)的編碼方式；第三確定模塊，用于基于數(shù)據(jù)類型，確定目標(biāo)數(shù)據(jù)集合中的數(shù)據(jù)的編碼位；編碼模塊，用于對(duì)目標(biāo)數(shù)據(jù)集合中的數(shù)據(jù)，按照編碼方式對(duì)編碼位進(jìn)行編碼，得到編碼數(shù)據(jù)集合；生成模塊，用于基于編碼方式和編碼位，生成解碼指令。
6、根據(jù)本公開實(shí)施例的另一個(gè)方面，提供了一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)存儲(chǔ)有計(jì)算機(jī)程序，計(jì)算機(jī)程序用于被處理器執(zhí)行以實(shí)現(xiàn)執(zhí)行上述通過(guò)神經(jīng)網(wǎng)絡(luò)加速器對(duì)特征數(shù)據(jù)進(jìn)行計(jì)算的方法。
7、根據(jù)本公開實(shí)施例的另一個(gè)方面，提供了一種電子設(shè)備，電子設(shè)備包括：處理器；用于存儲(chǔ)處理器可執(zhí)行指令的存儲(chǔ)器；處理器，用于從存儲(chǔ)器中讀取可執(zhí)行指令，并執(zhí)行指令以實(shí)現(xiàn)上述通過(guò)神經(jīng)網(wǎng)絡(luò)加速器對(duì)特征數(shù)據(jù)進(jìn)行計(jì)算的方法。
8、根據(jù)本公開實(shí)施例的另一個(gè)方面，提供了一種計(jì)算機(jī)程序產(chǎn)品，計(jì)算機(jī)程序產(chǎn)品包括計(jì)算機(jī)程序指令，當(dāng)計(jì)算機(jī)程序指令由指令處理器執(zhí)行時(shí)，執(zhí)行本公開提出的通過(guò)神經(jīng)網(wǎng)絡(luò)加速器對(duì)特征數(shù)據(jù)進(jìn)行計(jì)算的方法。
9、基于本公開上述實(shí)施例提供的通過(guò)神經(jīng)網(wǎng)絡(luò)加速器對(duì)特征數(shù)據(jù)進(jìn)行計(jì)算的方法、裝置、計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)及電子設(shè)備，通過(guò)預(yù)先對(duì)待在神經(jīng)網(wǎng)絡(luò)加速器內(nèi)傳輸及計(jì)算的數(shù)據(jù)進(jìn)行編碼，在計(jì)算時(shí)，先確定已編碼數(shù)據(jù)的解碼方式和已編碼數(shù)據(jù)的第一編碼位，再將第一編碼位對(duì)應(yīng)的數(shù)字轉(zhuǎn)換為第一解碼數(shù)據(jù)，最后由神經(jīng)網(wǎng)絡(luò)加速器對(duì)第一解碼數(shù)據(jù)進(jìn)行乘加運(yùn)算，得到輸出特征數(shù)據(jù)，實(shí)現(xiàn)了通過(guò)編碼將神經(jīng)網(wǎng)絡(luò)加速器中待計(jì)算的數(shù)據(jù)的特定數(shù)據(jù)位轉(zhuǎn)換為特定的數(shù)值，計(jì)算時(shí)再對(duì)該數(shù)值進(jìn)行解碼并正常計(jì)算，已編碼數(shù)據(jù)在神經(jīng)網(wǎng)絡(luò)加速器中傳輸時(shí)，可以使特定數(shù)據(jù)位置為相應(yīng)的數(shù)值，進(jìn)而使神經(jīng)網(wǎng)絡(luò)加速器中多數(shù)存儲(chǔ)單元存儲(chǔ)的上述特定數(shù)據(jù)位上的數(shù)值相等，從而減少了數(shù)據(jù)在神經(jīng)網(wǎng)絡(luò)加速器中傳輸時(shí)，存儲(chǔ)單元發(fā)生數(shù)據(jù)翻轉(zhuǎn)的次數(shù)，降低了神經(jīng)網(wǎng)絡(luò)加速器的功耗，提高了神經(jīng)網(wǎng)絡(luò)加速器的性能。
10、下面通過(guò)附圖和實(shí)施例，對(duì)本公開的技術(shù)方案做進(jìn)一步的詳細(xì)描述。
1.一種通過(guò)神經(jīng)網(wǎng)絡(luò)加速器對(duì)特征數(shù)據(jù)進(jìn)行計(jì)算的方法，包括：
2.根據(jù)權(quán)利要求1所述的方法，其中，所述通過(guò)所述神經(jīng)網(wǎng)絡(luò)加速器對(duì)所述第一解碼數(shù)據(jù)進(jìn)行乘加運(yùn)算，得到輸出特征數(shù)據(jù)，包括：
3.根據(jù)權(quán)利要求2所述的方法，其中，所述基于預(yù)設(shè)的數(shù)據(jù)輸出指令，通過(guò)所述神經(jīng)網(wǎng)絡(luò)加速器對(duì)所述歷史累加結(jié)果和所述乘加結(jié)果，進(jìn)行累加運(yùn)算，得到累加結(jié)果，包括：
4.根據(jù)權(quán)利要求2所述的方法，其中，所述基于所述數(shù)據(jù)輸出指令對(duì)應(yīng)的編碼方式，對(duì)所述累加結(jié)果進(jìn)行編碼，生成所述輸出特征數(shù)據(jù)，包括：
5.根據(jù)權(quán)利要求1所述的方法，其中，所述確定已編碼數(shù)據(jù)對(duì)應(yīng)的解碼方式，以及所述已編碼數(shù)據(jù)的第一編碼位，包括：
6.一種數(shù)據(jù)編碼方法，包括：
7.根據(jù)權(quán)利要求6所述的方法，其中，所述基于所述數(shù)據(jù)類型，確定所述目標(biāo)數(shù)據(jù)集合中的數(shù)據(jù)的編碼位，包括：
8.根據(jù)權(quán)利要求7所述的方法，其中，所述對(duì)所述目標(biāo)數(shù)據(jù)集合中的數(shù)據(jù)，按照所述編碼方式對(duì)所述編碼位進(jìn)行編碼，得到編碼數(shù)據(jù)集合，包括：
9.根據(jù)權(quán)利要求8所述的方法，其中，所述基于所述編碼位，對(duì)所述目標(biāo)數(shù)據(jù)集合中的數(shù)據(jù)按照第一編碼方式進(jìn)行編碼，得到所述編碼數(shù)據(jù)集合，包括：
10.根據(jù)權(quán)利要求6所述的方法，其中，所述基于所述數(shù)據(jù)類型，確定所述目標(biāo)數(shù)據(jù)集合中的數(shù)據(jù)的編碼位，包括：
11.根據(jù)權(quán)利要求10所述的方法，其中，所述對(duì)所述符合變化幅度條件的數(shù)據(jù)，按照第二編碼方式進(jìn)行編碼，得到所述編碼數(shù)據(jù)集合，包括：
12.一種通過(guò)神經(jīng)網(wǎng)絡(luò)加速器對(duì)特征數(shù)據(jù)進(jìn)行計(jì)算的裝置，包括：
13.一種數(shù)據(jù)編碼裝置，包括：
14.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，所述存儲(chǔ)介質(zhì)存儲(chǔ)有計(jì)算機(jī)程序，所述計(jì)算機(jī)程序用于被處理器執(zhí)行以實(shí)現(xiàn)上述權(quán)利要求1-11任一所述的通過(guò)神經(jīng)網(wǎng)絡(luò)加速器對(duì)特征數(shù)據(jù)進(jìn)行計(jì)算的方法或數(shù)據(jù)編碼方法。
15.一種電子設(shè)備，所述電子設(shè)備包括：