方案適用場景
本方案為某連鎖門店營運企業(客戶名稱保密)設計:管理層透過受控入口查詢營運資料、生成日報、安排門店任務,門店人員繼續使用原有協同工具接收和回饋任務。客戶名稱、人員、門店、業務金額和平台帳號均不在公開頁面披露。
模型服務部署在企業受控網絡,權威業務資料保存在客戶NAS。
釘釘、管理端和模型服務不直接連接生產資料庫,統一透過業務API校驗權限。
營業額、排名、工資和分賬由SQL或規則程式計算,模型只負責理解、調用和解釋。
模型或OCR暫時不可用時,固定報表、任務台賬和人工流程仍可運行。
雙 DGX Spark 與模型部署基線
兩台 DGX Spark 透過 NVIDIA 認可的高速連接線共同承載一個 DeepSeek V4 Flash 模型服務。目標版本為正式版(0731);最終以客戶提供的模型檔案、授權、模型卡和雜湊校驗為準。
不能把普通辦公網線當成模型並行鏈路,需先驗證高速互聯、驅動、運行時和雙節點通信。
優先驗證官方模型包標註的 FP4/FP8 混合精度,不預先承諾未經實測的記憶體、速度或並發。
生產建議從16K或32K起步,長文件採用分段、檢索和摘要,具體上限以實測為準。
優先測試模型卡支援的 SGLang 或 vLLM;其他運行時只有在架構相容性驗證通過後才納入方案。
參考業務架構
模型不是業務賬本。業務主機負責任務流程、資料導入、OCR調度、權限和稽核;NAS保存資料庫、截圖、報表、任務記錄和日誌;雙 Spark 只提供內網模型API。
門店和店長繼續透過釘釘接收任務、確認、回饋和提醒。
管理層透過受控的WPS/Comate或約定管理端發起查詢和任務操作。
模型調度器、業務API、權限校驗、消息隊列和稽核日誌集中在業務服務層。
協同平台只傳遞完成協作所需的最少欄位,權威資料持久化在客戶NAS。
典型數字員工流程
把自然語言互動限制在可稽核的工具調用範圍內,不讓模型直接修改正式資料。
識別門店、任務、數量和截止時間,經權限校驗後發送任務並記錄確認、催辦、完成或撤銷。
透過固定SQL和規則程式計算日報、排名、同比和環比,再由模型用自然語言解釋。
識別美團、抖音等截圖後先進入覆核隊列,工作人員確認後才寫入正式資料。
日報先由負責人審閱,不設置無人工確認的股東群發。
驗收與故障邊界
雙 Spark 是共同承載主模型的雙節點,不是主備容災。任一節點或高速互聯故障時,模型服務可能暫停,但業務賬本和不依賴模型的固定流程應保持可用。
驗證連續運行、模型載入、記憶體佔用和雙節點通信,不以「能啟動」作為唯一標準。
凍結首字等待時間、完整回答時間、生成速度、最大生產上下文和小規模並發實測結果。
模型只訪問受控工具,不直接執行任意SQL,不持有釘釘或WPS密鑰,不對公網開放。
驗證節點重啟、服務恢復、備份恢復、模型回滾和人工降級流程。
範圍與保密客戶名稱、人員、門店、業務資料、帳號、地址和內部配置已脫敏。本文是部署方案,不構成對特定模型版本效能、合規結論或採購價格的保證;最終以客戶確認的模型包、資料流、測試條件和驗收標準為準。
想在本地運行正式版 DeepSeek V4 Flash?
提供目標模型包、業務入口、資料邊界和並發要求,我們先完成雙 Spark 技術驗證,再確定實施與驗收口徑。