运维边界
在交付前明确由谁负责基础设施、模型、知识库、业务接口和安全配置。
记录驱动、运行时、框架、模型和配置。
定义指标、阈值、通知方式和响应责任。
验证配置、数据和版本变更的恢复路径。
评估升级影响并保留操作和审批记录。
四类验收
验收指标应在采购和实施前确认,避免项目结束时才讨论成功标准。
模型加载、流式请求、多轮、鉴权和接口。
首字延迟、生成速度、并发、上下文和稳定性。
网络、权限、日志、模型与数据保护。
启停、恢复、监控、备份、升级与回滚。
先确认业务目标,再决定模型和算力
告诉我们目标模型、用户规模、数据边界和现有环境,我们将梳理容量边界、实施路线与验收标准。