DAPPWEB / 繁體中文

開源大模型私有化部署

一個指定模型與環境，提供 API、存取控制、評測基線及驗收測試。

交付內容與驗收

運行設定、API 測試、基線評測及維運手冊。

GPU 伺服器、容器、叢集排程、儲存與資源監控。

模型選型、多卡推論、內網或離線 API 與存取控制。

量化、推論引擎適配，以及延遲、吞吐與顯示記憶體測試。

LoRA／QLoRA、監督與全參數微調，配套約定評測。

領域繼續預訓練、資料與分詞器評估；從零訓練先驗證可行性。

資料來源與使用權限、清洗標註、版本、檢查點及回復。

請提供目標、現有環境、限制條件、預算與期望日期；確認技術細節後再承諾費用與時程。

範圍、時程及費用在環境與相依項目評估後確認。算力、授權、獨立評估與維護分別列明。CBDC 正式環境工作需有權機構授權及專項能力驗證；本頁不代表央行認可、國家專案實績或正式營運資格。