本發(fā)明涉及深度學習，具體地說是基于大模型賦能的自定義應用發(fā)布方法及系統(tǒng)。
背景技術(shù)：
1、隨著人工智能技術(shù)的飛速發(fā)展，大模型在文本生成、語言理解等領域展現(xiàn)出巨大的潛力。大模型具備強大的學習和泛化能力，能夠處理復雜的數(shù)據(jù)和任務。然而，目前大模型的應用主要應用于提供檢索、生成問答等服務，缺乏一種高效、靈活的方法來賦能自定義應用的開發(fā)和發(fā)布，如需開發(fā)還是會動用大量的人力去開發(fā)傳統(tǒng)的業(yè)務系統(tǒng)接入模型服務去完成，開發(fā)周期長耗費時間、成本高，過程中會出現(xiàn)很多問題，這些限制了其在實際業(yè)務中的應用范圍。如何將這些強大的模型有效地應用于特定的業(yè)務場景，提高個性化應用、服務的效率和效果，將是一個需要研究的課題。
2、軟件應用的規(guī)模日益龐大，功能愈發(fā)復雜。傳統(tǒng)的應用研發(fā)、部署與發(fā)布過程往往依賴于人工操作，不僅耗時費力，還容易因人為錯誤導致部署失敗或系統(tǒng)不穩(wěn)定。然而，如何將大模型的能力有效應用于實際軟件開發(fā)中，特別是實現(xiàn)應用的快速定制與發(fā)布，仍是當前技術(shù)領域的熱點和難點?，F(xiàn)有技術(shù)中，應用的開發(fā)通常依賴于傳統(tǒng)的編程方式，周期長、成本高，且難以快速響應市場變化。
3、如何基于大模型快速開發(fā)并發(fā)布自定義的應用，是需要解決的技術(shù)問題。
技術(shù)實現(xiàn)思路
1、本發(fā)明的技術(shù)任務是針對以上不足，提供基于大模型賦能的自定義應用發(fā)布方法及系統(tǒng)，來解決如何基于大模型快速開發(fā)并發(fā)布自定義的應用的技術(shù)問題。
2、第一方面，本發(fā)明一種基于大模型賦能的自定義應用發(fā)布方法，應用于大模型和助手管理系統(tǒng)之間，包括如下步驟：
3、助手應用開發(fā)：基于業(yè)務場景的需求、通過助手管理系統(tǒng)開發(fā)助手應用；
4、模型接入：基于業(yè)務場景的需求、選擇多個大模型作為備選大模型，并通過模型接入服務將備選大模型引入助手應用，所述模型接入服務預構(gòu)建于助手管理系統(tǒng)；
5、模型測試：對引入有備選大模型的助手應用進行測試，如果測試結(jié)果不符合預期，重新執(zhí)行模型接入操作，如果測試結(jié)果符合預期，則判定備選大模型為匹配的大模型；
6、模型優(yōu)化：對于匹配的大模型，判斷大模型是否需要進行參數(shù)調(diào)整，如果需要，通過動態(tài)配置接口對匹配的大模型進行參數(shù)調(diào)整，并對參數(shù)調(diào)整后的大模型進行大模型測試操作，如果不需要，則設置大模型的指令詞；
7、模型擴展：對于設置指令詞的大模型，判斷大模型是否需要需要進行擴展，如果需要，引入知識、并對大模型進行模型接入操作、模型測試操作和模型優(yōu)化操作，并為大模型添加外接技能，并對擴展后的大模型進行預覽測試，如果不需要擴展，對當前的大模型進行預覽測試；
8、應用發(fā)布部署：發(fā)布接入大模型的助手應用，并將助手應用部署到應用場景；
9、應用監(jiān)控：對部署于應用場景的助手應用進行實時監(jiān)控，基于監(jiān)控結(jié)果進行故障處理，并基于監(jiān)控結(jié)果對大模型進行性能優(yōu)化。
10、作為優(yōu)選，通過助手管理系統(tǒng)將助手應用的當前功能分解為多個獨立的模塊，為每個模塊定義接口和參數(shù)，基于業(yè)務場景的需求、通過助手管理系統(tǒng)開發(fā)助手應用時，選擇并組合模塊構(gòu)建適配業(yè)務場景需求的助手應用。
11、作為優(yōu)選，在助手管理系統(tǒng)中自定義有開發(fā)工具包，所述開發(fā)工具包提供數(shù)據(jù)處理、大模型訓練以及用戶界面設計服務；
12、基于業(yè)務場景的需求、通過助手管理系統(tǒng)開發(fā)助手應用時，通過所述開發(fā)工具包執(zhí)行如下操作：
13、根據(jù)業(yè)務場景的需求、選擇功能并對功能進行組合，開發(fā)與業(yè)務場景適配的助手應用；
14、對開發(fā)的助手應用進行用戶界面優(yōu)化，為助手應用的用戶界面設定助手指令設置分區(qū)、助手模塊配置區(qū)以及助手預覽測試區(qū)，助手指令設置分區(qū)提供指令詞輸入框，給出指令詞輸入?yún)⒖际纠帜K配置區(qū)提供助手應用流程配置，提供知識傳入及topk、score閾值設置，助手預覽測試區(qū)提供預覽測試，根據(jù)配置的指令和模塊流程對助手應用的應用效果測試；
15、對于接入助手應用的大模型，對用于對大模型進行訓練的樣本數(shù)據(jù)進行數(shù)據(jù)處理，并基于處理后的樣本數(shù)據(jù)對大模型進行模型訓練；
16、對于接入有訓練后大模型的助手應用，初始化所述助手應用，生成對話id，執(zhí)行對話時，所述助手應用調(diào)用大模型進行答復，并記錄會話內(nèi)容，對用戶的問題及助手應用自身的答復進行記錄；
17、提供所述助手應用的下載地址。
18、作為優(yōu)選，引入知識、并對大模型進行模型接入、模型測試和模型優(yōu)化操作，包括如下操作：
19、基于業(yè)務場景的需求采集相關知識，將知識存儲至已構(gòu)建的知識庫中；
20、設置用于表示知識在知識庫中位置的索引，并對知識向量化；
21、指示當前接入助手應用的大模型學習向量化的知識，并基于大模型學習結(jié)果進行模型選擇，篩選出適配的大模型；
22、對于適配的大模型，執(zhí)行模型測試和模型優(yōu)化操作。
23、作為優(yōu)選，通過構(gòu)建的發(fā)布管理工具對接入有大模型的應用助手進行發(fā)布，并對已發(fā)布的應用助手進行更新、監(jiān)控和維護，其中，發(fā)布管理工具支持將應用助手發(fā)布到云端或部署于本地服務器。
24、作為優(yōu)選，模型擴展時，如果業(yè)務場景涉及政務問答領域，大模型的擴展包括企業(yè)業(yè)務審批流程、指令查詢以及常見問題問答，如果業(yè)務場景涉及個人領域，大模型的擴展涉及語言翻譯。
25、作為優(yōu)選，助手應用部署到應用場景后，助手應用通過調(diào)用大模型提供會話交互服務，通過會話交互服務執(zhí)行人工客服以及客服記錄，并對會話交互服務過程中產(chǎn)生的會話記錄進行客服管理，將會話記錄返回助手管理系統(tǒng)；
26、通過應用監(jiān)控實時監(jiān)控會話交互服務的執(zhí)行過程，并基于會話記錄對大模型進行性能優(yōu)化。
27、第二方面，本發(fā)明一種基于大模型賦能的自定義應用發(fā)布系統(tǒng)，其特征在于，包括大模型以及助手管理系統(tǒng)，大模型與助手管理系統(tǒng)配合用于執(zhí)行如第一方面任一項所述的一種基于大模型賦能的自定義應用發(fā)布方法開發(fā)并發(fā)布助手應用。
28、本發(fā)明的基于大模型賦能的自定義應用發(fā)布方法及系統(tǒng)具有以下優(yōu)點：
29、1、用戶可以高效地利用大模型構(gòu)建個性化智能應用，大大縮短了應用從開發(fā)到發(fā)布的時間，同時降低了技術(shù)門檻；
30、2、提高了應用的可維護性和擴展性，使得業(yè)務可以根據(jù)市場變化快速調(diào)整；3、確保了用戶數(shù)據(jù)的安全性和隱私性，提升了用戶對智能應用的信任度；
31、4、確保了應用的使用效果，實時監(jiān)控用戶的運行數(shù)據(jù)并根據(jù)數(shù)據(jù)分析運行情況，給出指導性意見。
1.一種基于大模型賦能的自定義應用發(fā)布方法，其特征在于，應用于大模型和助手管理系統(tǒng)之間，包括如下步驟：
2.根據(jù)權(quán)利要求1所述的基于大模型賦能的自定義應用發(fā)布方法，其特征在于，通過助手管理系統(tǒng)將助手應用的當前功能分解為多個獨立的模塊，為每個模塊定義接口和參數(shù)，基于業(yè)務場景的需求、通過助手管理系統(tǒng)開發(fā)助手應用時，選擇并組合模塊構(gòu)建適配業(yè)務場景需求的助手應用。
3.根據(jù)權(quán)利要求1或2所述的基于大模型賦能的自定義應用發(fā)布方法，其特征在于，在助手管理系統(tǒng)中自定義有開發(fā)工具包，所述開發(fā)工具包提供數(shù)據(jù)處理、大模型訓練以及用戶界面設計服務；
4.根據(jù)權(quán)利要求1所述的基于大模型賦能的自定義應用發(fā)布方法，其特征在于，引入知識、并對大模型進行模型接入、模型測試和模型優(yōu)化操作，包括如下操作：
5.根據(jù)權(quán)利要求1所述的基于大模型賦能的自定義應用發(fā)布方法，其特征在于，通過構(gòu)建的發(fā)布管理工具對接入有大模型的應用助手進行發(fā)布，并對已發(fā)布的應用助手進行更新、監(jiān)控和維護，其中，發(fā)布管理工具支持將應用助手發(fā)布到云端或部署于本地服務器。
6.根據(jù)權(quán)利要求1所述的基于大模型賦能的自定義應用發(fā)布方法，其特征在于，模型擴展時，如果業(yè)務場景涉及政務問答領域，大模型的擴展包括企業(yè)業(yè)務審批流程、指令查詢以及常見問題問答，如果業(yè)務場景涉及個人領域，大模型的擴展涉及語言翻譯。
7.根據(jù)權(quán)利要求1所述的基于大模型賦能的自定義應用發(fā)布方法，其特征在于，助手應用部署到應用場景后，助手應用通過調(diào)用大模型提供會話交互服務，通過會話交互服務執(zhí)行人工客服以及客服記錄，并對會話交互服務過程中產(chǎn)生的會話記錄進行客服管理，將會話記錄返回助手管理系統(tǒng)；
8.一種基于大模型賦能的自定義應用發(fā)布系統(tǒng)，其特征在于，包括大模型以及助手管理系統(tǒng)，大模型與助手管理系統(tǒng)配合用于執(zhí)行如權(quán)利要求1-7任一項所述的一種基于大模型賦能的自定義應用發(fā)布方法開發(fā)并發(fā)布助手應用。