本公開涉及人工智能（ai）。更具體地，本公開涉及ai模型的神經(jīng)符號學習或訓練，以及促進該ai模型在嵌入式裝置上的部署。
背景技術(shù)：
1、ai模型對我們生活的各個方面都產(chǎn)生了深遠的影響，預(yù)示著一個新的創(chuàng)新時代的到來。這些模型正被廣泛應(yīng)用于各種應(yīng)用中，并且它們針對邊緣計算的優(yōu)化以及在嵌入式裝置上的部署有助于推動它們的持續(xù)增長和成功。
2、盡管ai技術(shù)取得了重大進展，但傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)或系統(tǒng)仍然無法理解視覺概念。例如，如圖1a所示，即使當對象從一個地方運動到另一個地方時，傳統(tǒng)的神經(jīng)ai系統(tǒng)也傾向于將對象標記為樹。這主要是因為這樣的系統(tǒng)不能從如圖像或視頻中所描繪的周圍場景中完全掌握上下文信息。
3、此外，傳統(tǒng)的神經(jīng)ai系統(tǒng)在理解自然語言中固有的語言概念方面表現(xiàn)出缺陷。這在圖1c和圖1d中舉例說明，其中，傳統(tǒng)的神經(jīng)ai系統(tǒng)無法區(qū)分“站在動物旁邊”和“被動物追逐”。這種不足源于傳統(tǒng)的神經(jīng)ai系統(tǒng)無法理解語言概念的細微差別。
4、因此，希望提供一種用于ai模型的沒有上述問題的機制。
5、以上信息僅作為背景信息呈現(xiàn)，以幫助理解本公開。關(guān)于上述內(nèi)容中的任何內(nèi)容是否可用作關(guān)于本公開的現(xiàn)有技術(shù)，未做出確定，并且也未做出斷言。
技術(shù)實現(xiàn)思路
1、本公開的方面是為了至少解決上述問題和/或缺點，并且至少提供下面描述的優(yōu)點。因此，本公開的一方面是提供ai模型的神經(jīng)符號學習或訓練，以及促進該ai模型在嵌入式裝置上的部署。
2、本公開的另一方面是通過將針對輸入數(shù)據(jù)內(nèi)容的預(yù)測概率與預(yù)定義的期望概率進行對比來確定ai模型的神經(jīng)損失。
3、本公開的另一方面是通過將針對輸入數(shù)據(jù)內(nèi)容的預(yù)測概率與預(yù)定的不期望概率進行對比來確定ai模型的符號損失。
4、本公開的另一方面是確定ai模型的多個層的權(quán)重，并基于神經(jīng)損失和符號損失來更新ai模型的層的權(quán)重。
5、另外的方面將部分地在下面的描述中闡述，并且部分地將從描述中顯而易見，或者可通過實踐所呈現(xiàn)的實施例來學習。
6、根據(jù)本公開的一方面，提供了一種用于人工智能（ai）模型的神經(jīng)符號學習的方法。該方法包括由電子裝置接收用于ai模型的神經(jīng)符號學習的包括多個內(nèi)容的輸入數(shù)據(jù)，確定ai模型的輸出中針對輸入數(shù)據(jù)的多個內(nèi)容中的每個內(nèi)容的預(yù)測概率，通過將針對多個內(nèi)容中的每個內(nèi)容的預(yù)測概率與針對多個內(nèi)容中的每個內(nèi)容的預(yù)定義的期望概率進行對比來確定ai模型的神經(jīng)損失，通過將針對多個內(nèi)容中的每個內(nèi)容的預(yù)測概率與針對多個內(nèi)容中的每個內(nèi)容的預(yù)定的不期望概率進行對比來確定ai模型的符號損失，確定ai模型的多個層的權(quán)重，以及基于神經(jīng)損失和符號損失來更新ai模型的多個層的權(quán)重。
7、在實施例中，該方法包括將ai模型的訓練損失確定為神經(jīng)損失和符號損失的度量，以及根據(jù)確定的訓練損失按比例地更新ai模型的多個層的權(quán)重。
8、在實施例中，該方法包括選擇包括多個常識事實的外部符號知識圖，從外部符號知識圖構(gòu)建包括多個違反常識事實的否定知識圖，從多個違反常識事實中識別最大違反事實集，以及針對最大違反事實以概率的形式生成符號標簽。最大違反事實包括不期望概率。
9、在實施例中，多個常識事實是預(yù)定義的規(guī)則集和與現(xiàn)實世界相關(guān)聯(lián)的常識事實集中的至少一個。
10、在實施例中，最大違反事實包括與關(guān)于輸入數(shù)據(jù)的多個常識事實相悖的事實。
11、在實施例中，該方法包括確定多個內(nèi)容以及多個內(nèi)容之間的關(guān)系，以及基于多個內(nèi)容以及多個內(nèi)容之間的關(guān)系來確定至少一個場景圖。至少一個場景圖是輸入數(shù)據(jù)中的多個內(nèi)容以及多個內(nèi)容之間的關(guān)系的結(jié)構(gòu)表示。
12、在實施例中，使用神經(jīng)ai來確定多個內(nèi)容，并且使用符號ai來確定多個內(nèi)容之間的關(guān)系，其中，符號ai通過外部符號知識圖遵循現(xiàn)實世界的常識。
13、根據(jù)本公開的另一方面，提供了一種用于人工智能（ai）模型的神經(jīng)符號學習的電子裝置。電子裝置包括處理器、通信器、神經(jīng)符號ai控制器和存儲器，該存儲器存儲包括計算機可運行指令的一個或多個程序，計算機可運行指令在由處理器運行時，使得電子裝置進行以下操作：接收用于ai模型的神經(jīng)符號學習的包括多個內(nèi)容的輸入數(shù)據(jù)，確定ai模型的輸出中針對輸入數(shù)據(jù)的多個內(nèi)容中的每個內(nèi)容的預(yù)測概率，通過將針對多個內(nèi)容中的每個內(nèi)容的預(yù)測概率與針對多個內(nèi)容中的每個內(nèi)容的預(yù)定義的期望概率進行對比來確定ai模型的神經(jīng)損失，通過將針對多個內(nèi)容中的每個內(nèi)容的預(yù)測概率與針對多個內(nèi)容中的每個內(nèi)容的預(yù)定的不期望概率進行對比來確定ai模型的符號損失，將ai模型的訓練損失確定為神經(jīng)損失和符號損失的度量，確定ai模型的多個層的權(quán)重，并且基于神經(jīng)損失和符號損失來更新ai模型的多個層的權(quán)重。
14、根據(jù)本公開的另一方面，提供了一種或多種非暫時性計算機可讀存儲介質(zhì)，其存儲包括計算機可運行指令的一個或多個計算機程序，計算機可運行指令在由電子裝置的一個或多個處理器運行時，使得電子裝置執(zhí)行操作。所述操作包括：接收用于人工智能（ai）模型的神經(jīng)符號學習的包括多個內(nèi)容的輸入數(shù)據(jù)，確定ai模型的輸出中針對輸入數(shù)據(jù)的多個內(nèi)容中的每個內(nèi)容的預(yù)測概率，通過將針對多個內(nèi)容中的每個內(nèi)容的預(yù)測概率與針對多個內(nèi)容中的每個內(nèi)容的預(yù)定義的期望概率進行對比來確定ai模型的神經(jīng)損失，通過將針對多個內(nèi)容中的每個內(nèi)容的預(yù)測概率與針對多個內(nèi)容中的每個內(nèi)容的預(yù)定的不期望概率進行對比來確定ai模型的符號損失，確定ai模型的多個層的權(quán)重，以及基于神經(jīng)損失和符號損失來更新ai模型的多個層的權(quán)重。
15、通過以下結(jié)合附圖公開了本公開的各種實施例的描述，本公開的其他方面、優(yōu)點和顯著特征對于本領(lǐng)域技術(shù)人員將變得顯而易見。
1.一種用于人工智能ai模型的神經(jīng)符號學習的方法，所述方法包括：
2.如權(quán)利要求1所述的方法，其中，由所述電子裝置基于所述神經(jīng)損失和所述符號損失來更新所述ai模型的所述多個層的權(quán)重的方法包括：
3.如權(quán)利要求1所述的方法，
4.如權(quán)利要求3所述的方法，其中，所述多個常識事實包括預(yù)定義的規(guī)則集或與現(xiàn)實世界相關(guān)聯(lián)的常識事實集中的至少一個。
5.如權(quán)利要求3所述的方法，其中，所述最大違反事實還包括與關(guān)于所述輸入數(shù)據(jù)的所述多個常識事實相悖的事實。
6.如權(quán)利要求1所述的方法，還包括：
7.如權(quán)利要求6所述的方法，其中，使用神經(jīng)ai來確定所述多個內(nèi)容，并且使用符號ai來確定所述多個內(nèi)容之間的關(guān)系，其中，所述符號ai通過外部符號知識圖遵循現(xiàn)實世界的常識。
8.一種用于人工智能ai模型的神經(jīng)符號學習的電子裝置，所述電子裝置包括：
9.如權(quán)利要求8所述的電子裝置，其中，所述一個或多個程序還包括指令，所述指令在由所述處理器運行時，使得所述電子裝置進行以下操作：
10.如權(quán)利要求8所述的電子裝置，
11.如權(quán)利要求10所述的電子裝置，其中，所述多個常識事實包括預(yù)定義的規(guī)則集或與現(xiàn)實世界相關(guān)聯(lián)的常識事實集中的至少一個。
12.如權(quán)利要求10所述的電子裝置，其中，所述最大違反事實包括與關(guān)于所述輸入數(shù)據(jù)的所述多個常識事實相悖的事實。
13.如權(quán)利要求8所述的電子裝置，
14.如權(quán)利要求13所述的電子裝置，其中，使用神經(jīng)ai來確定所述多個內(nèi)容，并且使用符號ai來確定所述多個內(nèi)容之間的關(guān)系，其中，所述符號ai通過外部符號知識圖遵循現(xiàn)實世界的常識。
15.如權(quán)利要求8所述的電子裝置，