大模型企業(yè)實踐系列分享（二）：深藍海域的創(chuàng)新技術方案探索

• 2023年11月29日 來源：互聯(lián)網 1029 65
• 繁體

今年以來,大模型如雨后春筍在海內外得到廣泛應用,但直接落地到企業(yè)存在諸多痛點:對業(yè)務場景理解有限,知識產出質量較差;企業(yè)核心知識又難以共享,外部模型的使用存在安全與合規(guī)風險。為解決這些痛點,將大模型與企業(yè)內部知識庫深度融合,可發(fā)揮各自技術優(yōu)勢,實現快速遷移。作為企業(yè)級知識管理系統(tǒng)的領軍企業(yè),深藍海域進行了系列技術探索,有效推動了模型與知識庫的零成本融合。

?

一、大模型與企業(yè)知識庫融合的技術挑戰(zhàn)

眾所周知，企業(yè)內部構建的知識庫中往往存有大量結構化和非結構化數據,覆蓋了各類業(yè)務規(guī)則、流程、案例等專業(yè)信息,可以為模型提供海量的優(yōu)質培訓素材。但實現落地應用仍存在諸多技術難題:

1. 專業(yè)知識的理解與適配

大模型對企業(yè)專業(yè)知識的理解有限,而知識庫中的業(yè)務概念復雜多樣，如何使模型快速適配專業(yè)知識,提高輸出質量,是實現高效融合的難點之一。

2. 多源異構數據的統(tǒng)一管理

企業(yè)的數據不僅存在于知識庫中,還分布在公司的多個異構系統(tǒng)和數據庫里。如何將這些多源異構的數據(不僅限于知識)進行有效地關聯(lián)和挖掘,并最終統(tǒng)一匯總到一個集成的平臺或模型中,實現企業(yè)數據和知識的有效連接、管理和應用。

3. 數據隔離與安全管控

企業(yè)知識庫中存有大量業(yè)務機密與核心競爭信息,需要確保數據安全。而公開大模型的訓練和使用會產生數據泄露風險。如何在模型培訓與使用中實現數據的隔離與管控,是企業(yè)應用的首要難題。

4. 技術環(huán)境差異與成本高昂

大模型的訓練與部署對算力提出極高要求,與企業(yè)技術環(huán)境存在差異。而部署和遷移大模型需要占用大量計算資源,存在一定成本，因此，如何縮減技術接入成本是一個難點。

5. 用戶交互的連續(xù)性與上下文理解

知識問答與會話式交互對上下文理解和連續(xù)性有更高要求。如何實現深度交互式問答也是一個難點。

總體來說,實現零成本落地,提升質量,保證安全,是大模型與企業(yè)知識庫融合面臨的核心技術挑戰(zhàn)。業(yè)內亟需突破與創(chuàng)新來推動大型模型真正進入應用領域。

二、深藍海域的技術方案的創(chuàng)新實踐

為促進大模型順利落地企業(yè)知識管理,減少甚至消除接入成本,深藍海域進行了一系列技術創(chuàng)新，實現模型與知識庫的深度融合。

1. 搜索引擎技術的應用與創(chuàng)新

傳統(tǒng)搜索依賴關鍵詞匹配存在局限性。深藍海域整合全文搜索、原子化搜索、大模型問答、知識加工等多種搜索模式，實現了大模型生成答案結果的溯源，查閱追蹤其引用、參考的知識來源等，平衡可信與創(chuàng)新。值得一提的是深藍小魚智答系統(tǒng)通過預訓練模型和領域知識微調，實現了對專業(yè)知識的精準表達和建模。

2.向量檢索與知識切分技術

深藍海域利用不同算法對企業(yè)知識進行細粒度切分,使每個知識點簇都可以被獨立向量化表達。這就實現了對非結構化專業(yè)知識的精準表示和建模。同時,不同粒度的知識切分也參與向量空間的統(tǒng)一建構。搜索時,可以準確匹配每個知識碎片的語義信息。這就像拼圖游戲一樣,從細微處出發(fā),最終達成對企業(yè)整體知識圖譜的還原和重構。這樣,就能夠在海量的知識碎片中定位到用戶提問問題相關性最強的片段，從而提供給大模型準確的知識來源，用于解答用戶的問題，減少大模型回答問題的“幻覺”。

3. 系統(tǒng)架構設計的安全與控制保障

深藍海域構建了涵蓋數據采集、模型訓練、預測服務的一整套安全系統(tǒng)架構。環(huán)境全部運行于企業(yè)內部網絡,實現了數據和模型的嚴密訪問控制。數據流動全程加密傳輸,算法模塊采用嚴格的權限控制，核心模型組件甚至可以做到單獨隔離。上述設計確保了從數據源到模型輸出的全鏈路安全,極大降低了核心知識泄密風險,使得方案可以安全可控地應用與企業(yè)生產環(huán)境。在使用大模型進行提問時，首先是由知識庫來決定哪些知識和知識原子是當前用戶被授權使用的，只有得到授權的知識和知識原子才可以被大模型調用，用來生成答案。

4. 低成本模型遷移技術

深藍海域支持使用低成本的推理計算資源，快速落地體現成果，項目前期投入風險低。支持多種大模型集成對接，允許靈活的部署選擇大模型的尺寸，支持API調用、本地私有化部署，實現快速落地大模型的部署安裝與業(yè)務對接。這使得企業(yè)可以輕松使用先進的對話模型,卻無需付出昂貴的技術與資源成本。

5. 對話增強技術的創(chuàng)新運用

深藍海域提供多輪對話、全庫智答、知識加工等能力，支持上下文理解和連續(xù)性。系統(tǒng)能夠基于單篇知識內容進行詳細的提問和解答，幫助用戶快速定位知識點，使得模型可以連貫理解會話流程，極大提高了復雜問題、連環(huán)問答的正確率，實現了從零開始快速遷移模型至特定業(yè)務場景,避免全量重訓帶來的高昂成本。

數據顯示,深藍海域大模型+企業(yè)知識庫技術方案與客戶的企業(yè)知識庫實現了零接入。應用于某大型跨境貿易企業(yè)后,提升了客戶重復問題自助解決率超60%。另一工業(yè)制造企業(yè)在應用員工培訓問答平臺后,日均問答量提升至3000+,整體工作效率顯著改善。

通過搜索引擎、對話增強等核心技術的創(chuàng)新應用,深藍海域實現了模型與知識庫的零成本對接,并解決了效率、質量與安全的關鍵挑戰(zhàn)。此類融合無疑是大模型落地企業(yè)的重要一環(huán)。

• 相關深度報告REPORTS

  

  2024-2029年版文具產品入市調查研究報告

  在市場競爭日益激烈、新產品層出不窮的今天，要開發(fā)一個新品并能迅速在市場上推廣其難度是可想而知的。只有經過科學的市場分析、消費者分析、競爭對手的分析，做到有的放矢，才能使企業(yè)開發(fā)的新...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡