TUEO 私有化部署手冊(國產化 / 信創)
面向交付工程師與維運團隊的部署手冊。TUEO 私有化是主線:每客戶一套獨立、單站點、隔離;國產化優先、離線 / 氣隙預設、一鍵裝;資料不出企業,全程可審計、可回滾。
1. 國產化與信創適配
TUEO 全面適配國產化軟硬體環境,支援在信創整機、國產 CPU 架構、國產 GPU 加速卡與信創作業系統上部署運行,滿足黨政、公安、政務、能源、金融等關鍵行業對安全可控的合規要求:
- 國產 CPU 架構:支援主流國產化 CPU(x86 與 ARM 生態)作為控制平面與計算節點;
- 國產 GPU 加速卡:支援國產 GPU 完成模型推論與向量檢索加速,可在完全內網環境運行;
- 信創作業系統:適配主流國產化 Linux 發行版,相容其軟體源與核心基線;
- 信創驗證:已在公安、政務等關鍵行業完成部署驗證,滿足等保與分級保護要求。
平台同時相容通用 x86 伺服器與標準 Linux 發行版,交付形態可裁剪:純國產化棧(信創整機 + 國產 GPU + 信創 OS)或 通用棧 均可一鍵部署。
2. 部署形態與架構
2.1 三種交付形態
| 形態 | 適用 | 特點 |
|---|---|---|
| 單機一體 | 中小客戶 | 自帶輕量容器底座,一台機器裝完整套體系,可直接使用 |
| 叢集高可用(k3s HA) | 中大型 / 關鍵行業 | N 控制平面 + M 計算節點,etcd 高可用,加速卡可排程,生產主推 |
| 納管既有叢集 | 已建 K8s 的客戶 | 重用客戶既有叢集專屬命名空間,平台以 k8s driver 部署 |
2.2 分層架構
L3 產品與中介軟體 identity · cohort · studio · capabilities · executor
+ PG / Redis / MinIO / 知識庫 / IM / 模型閘道
L2 維運平台 TUEO Console(設定中心 · 日誌 · 狀態牆 · 部署編排 · 備份 · 審計)
L1 底座 Harbor 內網映像倉庫 · 資料庫高可用 · 憑證 · 閘道
L0 叢集底座 k3s HA · 內網快取層 · 映像代理
算力層 多模型算力伺服器 —— 獨立算力節點,統一部署與納管模型
L-1 OS 基線 國產 / 通用作業系統 · 核心基線 · 軟體源加速
多模型算力伺服器是部署架構中的獨立算力節點,專門用於部署模型:
- 統一承載多模型:大型語言模型推論、向量嵌入、視覺 / 語音模型,可在同一算力節點依需部署與排程;
- 國產 / 通用加速卡:支援國產 GPU 與通用加速卡,模型推論與向量檢索完全在內網完成;
- 經平台統一納管:模型服務由維運平台登記與部署,模型金鑰不出伺服器端,呼叫經內網模型閘道統一路由;
- 可獨立擴展:按業務規模單獨擴充算力節點,不影響控制平面與業務節點。
關鍵點:底座(資料庫 / 快取 / 容器底座 / 物件儲存 / 模型算力)也是由維運平台統一管理的被管物件,不是客戶另找團隊維護的第三方基礎設施。平台連自己都是被管物件(自升級只換映像檔、創世清單永為單一真值)。
3. 部署階段(目錄即順序)
部署採用可重放指令碼 + 站點清單,從裸機裝成生產環境,無需手敲 SSH:
| 序 | 階段 | 內容 |
|---|---|---|
| 00 預檢 | 站點就緒驗收閘門 | 節點 / 網路 / 儲存 / 資源全面斷言,全綠才繼續 |
| 10 OS 基線 | 系統準備 | 軟體源加速(內建快取 / 內網代理)、核心基線、基礎套件 |
| 20 叢集 | 容器底座 | 參數化安裝高可用叢集(control-plane / worker 角色),etcd 高可用 |
| 30 算力節點 | 多模型算力伺服器 | 加速卡驅動 + 裝置外掛程式 + 持久化,國產 / 通用加速卡可排程 |
| 35 模型部署 | 模型服務 | 在算力節點部署多模型服務(對話 / 嵌入 / 視覺 / 語音),內網模型閘道統一路由 |
| 40 快取層 | 內網加速 | 映像代理與軟體源快取,慢公網下每份只過一次 |
| 50 底座 | 基礎設施 | 憑證、資料庫高可用、內網映像倉庫、映像拉取權限 |
| 60 維運平台 | 平台上線 | 構建映像 → 站內裝載 → 引導拉起維運平台(節點零 docker) |
| 70 產品 | 產品部署 | identity / cohort / studio / capabilities / executor 等經平台部署,單域閘道接入 |
部署後,00 預檢 的指令碼兼作驗收體檢,可隨時重跑。
4. 站點清單(宣告式設定)
每個客戶站點一份 site/<name>.yaml,指令碼參數化讀取、零硬編碼:
- 站點:名稱、域名後綴、時區;
- 網路:Pod / 服務網段、節點子網、閘道、DNS、公網入口、帶外管理網;
- 來源:離線 bundle 路徑或映像 URL(氣隙站點走離線 bundle);
- 接入:跳板機、SSH 憑據引用(明文不入庫);
- 節點:主機名、內網 IP、角色(控制平面 / 計算 / 多模型算力)、硬體規格與硬約束;
- 算力:加速卡類型與數量(國產 / 通用皆可),以及要部署的模型清單與資源預留。
5. 離線與氣隙部署
氣隙(完全斷網)是預設能力,不是選配:
- 離線映像交付:在連網環境構建映像打包 → 站內裝載進內網映像倉庫 → 叢集拉取,節點零 docker;
- 離線 bundle:把容器底座、映像、系統套件打成離線 bundle,氣隙站點一次性帶入;
- 內網快取:映像代理 + 軟體源快取,慢公網(如僅 0.5MB/s)下每份依賴只過一次慢線;
- 離線更新:
.tueoupdate簽名更新套件驗簽後匯入,目錄段轉能力平台、映像段裝進內網倉,未簽套件一律拒絕; - 離線授權:簽名 License 零連網啟動,軟節點鎖防複製到多部署。
6. 維運手冊
部署完成後,所有維運在 TUEO Console 一個介面完成:
| 能力 | 說明 |
|---|---|
| 服務目錄 | 全部受管服務宣告式註冊,加一條產品線 = 加一條設定 |
| 設定中心 | 普通設定宣告式、金鑰密文入庫、版本快照可回滾 |
| 狀態牆 | 全部服務與中介軟體健康一屏可見 |
| 部署編排 | 本地 / 單機 / 叢集三驅動,部署帶健康門禁與回滾 |
| 備份還原 | 全庫備份、還原校驗、按保留策略輪換 |
| 升級遷移 | 備份優先 + 回滾點,升級前必備份 |
| 診斷包 | 氣隙現場打包狀態 + 日誌 + 設定去識別化,供遠端支援 |
| 審計 | 部署 / 設定 / 審批全操作留痕,RBAC 三檔 |
平台自升級:push 程式碼自動構建 → 映像晉級 → 換映像 → 探活收斂;升級只動映像標籤,不重渲染創世清單(資料卷 / 主金鑰 / 閘道全保留)。
7. 安全與合規
- 資料不出企業:全部元件內網部署,模型可走客戶自管閘道或本地模型,金鑰不出客戶網路;
- 多租戶實體隔離:資料庫行級安全 + 服務層顯式租戶過濾雙防禦;
- 審計留痕:密碼學雜湊鏈審計,竄改可偵測;敏感操作二次確認 + 審批流;
- 縱深防禦:OIDC 單點登入、角色收斂、憑據金庫加密、斷網沙箱、內容安全閘門;
- 信創合規:全站私有化部署,滿足等保、分級保護與關鍵行業合規要求。
8. 交付清單
| 交付物 | 說明 |
|---|---|
| 部署套件 | 站點清單範本 + 分階段指令碼 + 公共庫 |
| 離線 bundle | 容器底座 / 映像 / 系統套件,氣隙可用 |
| License | 簽名授權檔案,軟節點鎖綁定部署 |
| 維運平台 | 部署完成後即獲全部維運能力 |
| 文件 | 本手冊 + 各產品文件 + API 參考 |
部署有疑問,或需要信創環境聯合調優,請聯絡 TUEO 交付團隊。