總成本不只是GPU
伺服器價格只是入場成本。完整預算必須涵蓋從機房準備到持續營運的全生命週期。
GPU、CPU、記憶體、儲存、網絡、機櫃、供電、散熱和備件。
模型授權、作業系統、推理平台、閘道、RAG、中介軟體、監控和安全工具。
架構設計、離線部署、資料接入、身份權限、業務介面、測試和培訓。
監控告警、故障回應、版本升級、備份恢復、容量優化和人員投入。
先測工作負載，再詢價
同一個模型，在不同上下文、並發和可用性目標下可能需要完全不同的架構。
確認具體型號、授權、精度、量化方式和上下文。
記錄日常與峰值並發、輸入輸出長度和回應目標。
用真實脫敏資料建立回答品質和RAG檢索基線。
明確離線程度、可用性、備份、擴容和服務年限。
三層預算規劃，不等於三檔固定報價
下面用於確定詢價範圍；最終金額取決於採購日期、具體硬體、整合範圍和服務等級。
說明：本頁不是報價單。GPU與伺服器價格、供應週期和軟體授權會變化，任何預算都應以當期書面詢價、現場條件和雙方確認的驗收範圍為準。
私有化與API如何比較
不能用單一Token單價對比一次性硬體採購，應比較相同服務週期內的總擁有成本。
模型調用、網絡、資料處理、限額和供應商價格變化。
折舊、機房、電力、軟體、實施、維運和備用容量。
資料邊界、回應穩定性、客製、稽核和供應商依賴。
敏感與穩定負載走私有，彈性或通用任務保留API。
真實專案告訴我們甚麼
集思樂已完成16卡H200與GLM-5.2專案的部署及功能驗證。該類專案說明，硬體之外的跨節點通訊、模型適配、閘道、監控和驗收同樣決定結果。
客戶名稱、業務資料和成交金額均不對外披露。
不把單個專案的成本結構包裝成所有企業適用的固定比例。
交付記錄包括版本、配置、測試結果、故障恢復和驗收材料。
採購前確認效能、安全與維運指標，減少後期增項爭議。
降低浪費的六個動作
省錢的重點不是壓低某一項單價，而是減少錯誤選型、重複實施和閒置容量。
用真實場景確認模型品質和介面，再決定生產規模。
硬體、軟體、實施、維運、差旅和稅費分別列明。
記錄驅動、運行時、模型和配置，避免升級導致重複工作。
以並發、延遲、利用率和業務增長決定何時加卡。
備份、回滾、備件與故障演練應進入預算。
明確支援時間、回應級別、升級次數和責任邊界。
先形成可解釋的預算，再決定採購
提供模型、上下文、使用者數、峰值並發、資料位置和現有設備，我們將輸出容量假設與分項詢價清單。