01

方案適用場景

本方案為某連鎖門店營運企業(客戶名稱保密)設計:管理層透過受控入口查詢營運資料、生成日報、安排門店任務,門店人員繼續使用原有協同工具接收和回饋任務。客戶名稱、人員、門店、業務金額和平台帳號均不在公開頁面披露。

本地模型

模型服務部署在企業受控網絡,權威業務資料保存在客戶NAS。

統一後台

釘釘、管理端和模型服務不直接連接生產資料庫,統一透過業務API校驗權限。

規則優先

營業額、排名、工資和分賬由SQL或規則程式計算,模型只負責理解、調用和解釋。

可降級

模型或OCR暫時不可用時,固定報表、任務台賬和人工流程仍可運行。

02

雙 DGX Spark 與模型部署基線

兩台 DGX Spark 透過 NVIDIA 認可的高速連接線共同承載一個 DeepSeek V4 Flash 模型服務。目標版本為正式版(0731);最終以客戶提供的模型檔案、授權、模型卡和雜湊校驗為準。

雙節點互聯

不能把普通辦公網線當成模型並行鏈路,需先驗證高速互聯、驅動、運行時和雙節點通信。

模型精度

優先驗證官方模型包標註的 FP4/FP8 混合精度,不預先承諾未經實測的記憶體、速度或並發。

上下文策略

生產建議從16K或32K起步,長文件採用分段、檢索和摘要,具體上限以實測為準。

運行時

優先測試模型卡支援的 SGLang 或 vLLM;其他運行時只有在架構相容性驗證通過後才納入方案。

03

參考業務架構

模型不是業務賬本。業務主機負責任務流程、資料導入、OCR調度、權限和稽核;NAS保存資料庫、截圖、報表、任務記錄和日誌;雙 Spark 只提供內網模型API。

門店入口

門店和店長繼續透過釘釘接收任務、確認、回饋和提醒。

管理入口

管理層透過受控的WPS/Comate或約定管理端發起查詢和任務操作。

統一服務

模型調度器、業務API、權限校驗、消息隊列和稽核日誌集中在業務服務層。

資料邊界

協同平台只傳遞完成協作所需的最少欄位,權威資料持久化在客戶NAS。

04

典型數字員工流程

把自然語言互動限制在可稽核的工具調用範圍內,不讓模型直接修改正式資料。

任務閉環

識別門店、任務、數量和截止時間,經權限校驗後發送任務並記錄確認、催辦、完成或撤銷。

營運查詢

透過固定SQL和規則程式計算日報、排名、同比和環比,再由模型用自然語言解釋。

截圖入賬

識別美團、抖音等截圖後先進入覆核隊列,工作人員確認後才寫入正式資料。

報表分發

日報先由負責人審閱,不設置無人工確認的股東群發。

05

驗收與故障邊界

雙 Spark 是共同承載主模型的雙節點,不是主備容災。任一節點或高速互聯故障時,模型服務可能暫停,但業務賬本和不依賴模型的固定流程應保持可用。

穩定性

驗證連續運行、模型載入、記憶體佔用和雙節點通信,不以「能啟動」作為唯一標準。

效能

凍結首字等待時間、完整回答時間、生成速度、最大生產上下文和小規模並發實測結果。

安全

模型只訪問受控工具,不直接執行任意SQL,不持有釘釘或WPS密鑰,不對公網開放。

恢復

驗證節點重啟、服務恢復、備份恢復、模型回滾和人工降級流程。

範圍與保密客戶名稱、人員、門店、業務資料、帳號、地址和內部配置已脫敏。本文是部署方案,不構成對特定模型版本效能、合規結論或採購價格的保證;最終以客戶確認的模型包、資料流、測試條件和驗收標準為準。

VALIDATE BEFORE DELIVERY

想在本地運行正式版 DeepSeek V4 Flash?

提供目標模型包、業務入口、資料邊界和並發要求,我們先完成雙 Spark 技術驗證,再確定實施與驗收口徑。

電郵諮詢 +86 139 2521 1225