TUEO オンプレミスデプロイマニュアル(国産化 / 信創)
納品エンジニアと運用チーム向けのデプロイマニュアル。TUEO はオンプレミスが基本方針です:お客様ごとに 1 セットの独立・単一サイト・分離構成。国産化を優先し、オフライン / エアギャップをデフォルトとし、ワンクリックで導入。データが企業の外に出ず、全工程で監査可能・ロールバック可能。
1. 国産化と信創への適合
TUEO は国産のソフトウェア・ハードウェア環境に全面的に適合し、信創対応マシン、国産 CPU アーキテクチャ、国産 GPU アクセラレータカード、信創オペレーティングシステム上でのデプロイ・稼働をサポートします。党政機関、公安、行政、エネルギー、金融などの重要業界が求める「安全・制御可能」のコンプライアンス要件を満たします:
- 国産 CPU アーキテクチャ:主要な国産 CPU(x86 と ARM エコシステム)をコントロールプレーンと計算ノードとしてサポート;
- 国産 GPU アクセラレータカード:国産 GPU によるモデル推論とベクトル検索の高速化をサポートし、完全な内網環境で稼働可能;
- 信創オペレーティングシステム:主要な国産 Linux ディストリビューションに適合し、そのソフトウェアソースとカーネルベースラインと互換;
- 信創での検証:公安、行政などの重要業界でデプロイ検証を完了しており、等保と分级保護の要件を満たします。
プラットフォームは汎用 x86 サーバーと標準 Linux ディストリビューションにも対応し、納品形態をカスタマイズできます:完全国産化スタック(信創対応マシン + 国産 GPU + 信創 OS)または汎用スタックのいずれでもワンクリックでデプロイ可能です。
2. デプロイ形態とアーキテクチャ
2.1 3 つの納品形態
| 形態 | 適用対象 | 特徴 |
|---|---|---|
| 単機一体 | 中小規模顧客 | 軽量コンテナ基盤を同梱し、1 台で体系全体を導入でき、すぐに利用可能 |
| クラスタ高可用(k3s HA) | 中堅・大規模 / 重要業界 | N コントロールプレーン + M 計算ノード、etcd 高可用、アクセラレータカードのスケジューリング可能、本番で推奨 |
| 既存クラスタの納管 | K8s 導入済みの顧客 | 顧客既存クラスタの専用 namespace を再利用し、プラットフォームは k8s driver でデプロイ |
2.2 階層アーキテクチャ
L3 製品とミドルウェア identity · cohort · studio · capabilities · executor
+ PG / Redis / MinIO / ナレッジベース / IM / モデルゲートウェイ
L2 運用プラットフォーム TUEO Console(設定センター · ログ · ステータスウォール · デプロイオーケストレーション · バックアップ · 監査)
L1 基盤 Harbor 内網イメージレジストリ · データベース高可用 · 証明書 · ゲートウェイ
L0 クラスタ基盤 k3s HA · 内網キャッシュ層 · イメージプロキシ
算力層 マルチモデルコンピューティングサーバー —— 独立したコンピューティングノード、モデルを統一的にデプロイ・納管
L-1 OS ベースライン 国産 / 汎用オペレーティングシステム · カーネルベースライン · ソフトウェアソース高速化
マルチモデルコンピューティングサーバーは、デプロイアーキテクチャにおける独立したコンピューティングノードであり、モデルのデプロイに特化しています:
- 複数モデルを統一的にホスティング:大規模言語モデルの推論、ベクトル埋め込み、視覚 / 音声モデルを、同じコンピューティングノード上で必要に応じてデプロイ・スケジューリング可能;
- 国産 / 汎用アクセラレータカード:国産 GPU と汎用アクセラレータカードをサポートし、モデル推論とベクトル検索を完全に内網で完了;
- プラットフォームによる統一納管:モデルサービスは運用プラットフォームが登録・デプロイし、モデル鍵はサーバーから出ず、呼び出しは内網モデルゲートウェイが統一的にルーティング;
- 独立して拡張可能:業務規模に応じてコンピューティングノードを単独で拡張でき、コントロールプレーンと業務ノードに影響しません。
重要なポイント:基盤(データベース / キャッシュ / コンテナ基盤 / オブジェクトストレージ / モデルコンピューティング)も運用プラットフォームが統一的に管理する被管理オブジェクトであり、顧客が別途チームを手配して保守するサードパーティ基盤ではありません。プラットフォームは自らも被管理オブジェクトです(自己アップグレードはイメージの差し替えのみ、創世マニフェストが常に単一真値)。
3. デプロイ段階(ディレクトリがそのまま順序)
デプロイはリプレイ可能なスクリプト + サイトマニフェストを採用し、ベアメタルから本番環境を構築します。手作業の SSH は不要です:
| 序 | 段階 | 内容 |
|---|---|---|
| 00 事前検証 | サイト就準備受入ゲート | ノード / ネットワーク / ストレージ / リソースを包括的に検証し、すべて問題なしの場合のみ続行 |
| 10 OS ベースライン | システム準備 | ソフトウェアソース高速化(内蔵キャッシュ / 内網プロキシ)、カーネルベースライン、基本パッケージ |
| 20 クラスタ | コンテナ基盤 | パラメータ化で高可用クラスタをインストール(control-plane / worker ロール)、etcd 高可用 |
| 30 コンピューティングノード | マルチモデルコンピューティングサーバー | アクセラレータカードドライバ + デバイスプラグイン + 永続化、国産 / 汎用アクセラレータカードをスケジューリング可能 |
| 35 モデルデプロイ | モデルサービス | コンピューティングノードにマルチモデルサービスをデプロイ(対話 / 埋め込み / 視覚 / 音声)、内網モデルゲートウェイが統一的にルーティング |
| 40 キャッシュ層 | 内網加速 | イメージプロキシとソフトウェアソースキャッシュ、遅い公網でも各リソースは 1 回だけ取得 |
| 50 基盤 | インフラ基盤 | 証明書、データベース高可用、内網イメージレジストリ、イメージ取得権限 |
| 60 運用プラットフォーム | プラットフォーム本番化 | イメージをビルド → サイト内でロード → 運用プラットフォームをブート(ノードは docker 不要) |
| 70 製品 | 製品デプロイ | identity / cohort / studio / capabilities / executor などをプラットフォーム経由でデプロイし、単一ドメインのゲートウェイに接続 |
デプロイ後、00 事前検証 のスクリプトは受入ヘルスチェックを兼ね、いつでも再実行できます。
4. サイトマニフェスト(宣言的設定)
お客様のサイトごとに 1 つの site/<name>.yaml を用意し、スクリプトがパラメータとして読み取ります。ハードコーディングはゼロです:
- サイト:名称、ドメインサフィックス、タイムゾーン;
- ネットワーク:Pod / サービスネットワークセグメント、ノードサブネット、ゲートウェイ、DNS、公網入口、帯域外管理網;
- ソース:オフライン bundle のパスまたはイメージ URL(エアギャップサイトはオフライン bundle を使用);
- アクセス:踏み台サーバー、SSH 資格情報の参照(平文では保存しない);
- ノード:ホスト名、内網 IP、ロール(コントロールプレーン / 計算 / マルチモデルコンピューティング)、ハードウェア仕様とハード制約;
- コンピューティング:アクセラレータカードの種類と数(国産 / 汎用どちらも可)、およびデプロイするモデル一覧とリソース予約。
5. オフラインとエアギャップデプロイ
エアギャップ(完全なネットワーク切断)はデフォルトの能力であり、オプションではありません:
- オフラインイメージ納品:オンライン環境でイメージをビルドしてパッケージ化 → サイト内で内網イメージレジストリにロード → クラスタが取得。ノードは docker 不要;
- オフライン bundle:コンテナ基盤、イメージ、システムパッケージをオフライン bundle にまとめ、エアギャップサイトに一度に持ち込み;
- 内網キャッシュ:イメージプロキシ + ソフトウェアソースキャッシュ。遅い公網(例:わずか 0.5 MB/s)でも、各依存関係は低速回線を 1 回だけ通過;
- オフライン更新:
.tueoupdate署名済み更新パッケージを署名検証後にインポートし、ディレクトリセグメントは能力プラットフォームへ、イメージセグメントは内網レジストリにインストール。未署名パッケージはすべて拒否; - オフライン認可:署名付き License をネットワーク接続ゼロでアクティベートし、ソフトノードロックで複数デプロイへの複製を防止。
6. 運用マニュアル
デプロイ完了後、すべての運用は TUEO Console の 1 つの画面で完結します:
| 能力 | 説明 |
|---|---|
| サービスカタログ | 全被管理サービスを宣言的に登録、製品ラインを 1 つ追加 = 設定を 1 つ追加 |
| 設定センター | 通常の設定は宣言的、秘密鍵は暗号文で保存、バージョンスナップショットでロールバック可能 |
| ステータスウォール | 全サービスとミドルウェアの健全性を 1 画面で確認 |
| デプロイオーケストレーション | ローカル / 単機 / クラスタの 3 ドライバ、デプロイは健全性ゲートとロールバック付き |
| バックアップ・リストア | 全 DB バックアップ、リストア検証、保持ポリシーに基づくローテーション |
| アップグレード・マイグレーション | バックアップ優先 + ロールバックポイント、アップグレード前に必ずバックアップ |
| 診断パック | エアギャップ現場でステータス + ログ + 設定(マスキング)をパッケージ化し、リモートサポートに提供 |
| 監査 | デプロイ / 設定 / 承認の全操作を記録、RBAC 3 段階 |
プラットフォームの自己アップグレード:コードを push すると自動ビルド → イメージ昇格 → イメージ差し替え → ヘルスチェックで収束。アップグレードはイメージタグのみを変更し、創世マニフェストを再レンダリングしません(データボリューム / マスターキー / ゲートウェイはすべて保持)。
7. セキュリティとコンプライアンス
- データが企業の外に出ない:すべてのコンポーネントを内網にデプロイし、モデルは顧客自社管理のゲートウェイまたはローカルモデルを利用でき、秘密鍵が顧客ネットワークの外に出ません;
- マルチテナントの物理分離:データベースの行レベルセキュリティ + サービス層の明示的なテナントフィルタによる二重防御;
- 監査記録:暗号学的ハッシュチェーン監査で改ざんを検出可能;機微な操作は二次確認 + 承認フロー;
- 多層防御:OIDC シングルサインオン、ロールの集約、資格情報ボールトの暗号化、ネットワーク遮断サンドボックス、コンテンツ安全ゲート;
- 信創コンプライアンス:サイト全体をオンプレミスでデプロイし、等保、分级保護、重要業界のコンプライアンス要件を満たします。
8. 納品チェックリスト
| 納品物 | 説明 |
|---|---|
| デプロイキット | サイトマニフェストテンプレート + 段階別スクリプト + 共通ライブラリ |
| オフライン bundle | コンテナ基盤 / イメージ / システムパッケージ、エアギャップでも利用可能 |
| License | 署名付き認可ファイル、ソフトノードロックでデプロイに紐付け |
| 運用プラットフォーム | デプロイ完了後、すべての運用機能を即座に利用可能 |
| ドキュメント | 本マニュアル + 各製品のドキュメント + API リファレンス |
デプロイについてご不明な点がある場合、または信創環境での共同チューニングが必要な場合は、TUEO 納品チームにお問い合わせください。