維運邊界
在交付前明確由誰負責基礎設施、模型、知識庫、業務介面和安全配置。
記錄驅動、運行時、框架、模型和配置。
定義指標、門檻、通知方式和回應責任。
驗證配置、資料和版本變更的恢復路徑。
評估升級影響並保留操作和審批記錄。
四類驗收
驗收指標應在採購和實施前確認，避免專案結束時才討論成功標準。
模型載入、串流請求、多輪、鑒權和介面。
首字延遲、生成速度、並發、上下文和穩定性。
網絡、權限、日誌、模型與資料保護。
啟停、恢復、監控、備份、升級與回滾。
先確認業務目標，再決定模型與算力
告訴我們目標模型、使用者規模、資料邊界和現有環境，我們將梳理容量邊界、實施路線與驗收標準。