TUEO 프라이빗 배포 매뉴얼(국산화 / 신창(信創))

전달 엔지니어와 운영 팀을 위한 배포 매뉴얼. TUEO의 프라이빗(온프레미스) 배포가 주축입니다: 고객마다 독립적인 단일 사이트, 격리; 국산화 우선, 오프라인 / 에어갭 기본, 원클릭 설치; 데이터는 기업 밖으로 나가지 않고, 전 과정이 감사 가능하고 롤백 가능합니다.

1. 국산화 및 신창(信創) 적응

TUEO는 국산화 소프트웨어·하드웨어 환경에 전면 적응하며, 신창(信創) 일체형 기기, 국산 CPU 아키텍처, 국산 GPU 가속 카드와 신창 운영체제에서 배포·운영을 지원하여, 당정, 경찰, 공공 행정, 에너지, 금융 등 핵심 산업의 안전하고 통제 가능한 규정 준수 요구를 충족합니다:

• 국산 CPU 아키텍처: 주류 국산 CPU(x86과 ARM 생태계)를 제어면 및 계산 노드로 지원합니다;
• 국산 GPU 가속 카드: 국산 GPU로 모델 추론과 벡터 검색 가속을 지원하며, 완전한 내부망 환경에서 실행할 수 있습니다;
• 신창(信創) 운영체제: 주류 국산 Linux 배포판에 적응하며, 해당 소프트웨어 저장소와 커널 기준선을 호환합니다;
• 신창(信創) 검증: 이미 경찰, 공공 행정 등 핵심 산업에서 배포 검증을 완료하여, 등급 보호(等保)와 단계 보호 요구를 충족합니다.

플랫폼은 동시에 범용 x86 서버와 표준 Linux 배포판을 호환하며, 전달 형태를 조정할 수 있습니다: 순수 국산화 스택(신창 일체형 기기 + 국산 GPU + 신창 OS) 또는 범용 스택 모두 원클릭 배포가 가능합니다.

2. 배포 형태와 아키텍처

2.1 세 가지 전달 형태

2.2 계층형 아키텍처

L3 제품 및 미들웨어   identity · cohort · studio · capabilities · executor
                      + PG / Redis / MinIO / 지식 베이스 / IM / 모델 게이트웨이
L2 운영 플랫폼        TUEO Console(설정 센터 · 로그 · 상태 벽 · 배포 오케스트레이션 · 백업 · 감사)
L1 기반               Harbor 내부망 이미지 저장소 · 데이터베이스 고가용성 · 인증서 · 게이트웨이
L0 클러스터 기반      k3s HA · 내부망 캐시 레이어 · 이미지 프록시
컴퓨팅 레이어         다중 모델 컴퓨팅 서버 —— 독립 컴퓨팅 노드, 모델을 통합 배포·관리
L-1 OS 기준선         국산 / 범용 운영체제 · 커널 기준선 · 소프트웨어 저장소 가속

다중 모델 컴퓨팅 서버는 배포 아키텍처의 독립 컴퓨팅 노드로, 모델 배포를 전담합니다:

• 다중 모델 통합 수용: 대형 언어 모델 추론, 벡터 임베딩, 시각 / 음성 모델을 같은 컴퓨팅 노드에 필요에 따라 배포하고 스케줄링할 수 있습니다;
• 국산 / 범용 가속 카드: 국산 GPU와 범용 가속 카드를 지원하며, 모델 추론과 벡터 검색이 완전히 내부망에서 이루어집니다;
• 플랫폼이 통합 관리: 모델 서비스는 운영 플랫폼이 등록·배포하며, 모델 키는 서버 밖으로 나가지 않고, 호출은 내부망 모델 게이트웨이가 통합 라우팅합니다;
• 독립 확장 가능: 업무 규모에 따라 컴퓨팅 노드를 별도로 확장하며, 제어면과 업무 노드에 영향을 주지 않습니다.

핵심 포인트: 기반(데이터베이스 / 캐시 / 컨테이너 기반 / 객체 스토리지 / 모델 컴퓨팅)도 운영 플랫폼이 통합 관리하는 관리 대상 객체이며, 고객이 별도 팀을 찾아 유지보수해야 하는 제3자 인프라가 아닙니다. 플랫폼은 자기 자신조차 관리 대상 객체입니다(자체 업그레이드는 이미지만 교체, 창세(創世) 매니페스트가 영원한 단일 진실(SSOT)).

3. 배포 단계(디렉터리가 곧 순서)

배포는 리플레이 가능한 스크립트 + 사이트 매니페스트를 사용하여 베어메탈에서 프로덕션 환경으로 구성하며, SSH를 수동으로 입력할 필요가 없습니다:

배포 후 00 사전 점검 스크립트는 수용 검사를 겸하며, 언제든 다시 실행할 수 있습니다.

4. 사이트 매니페스트(선언적 구성)

고객 사이트마다 site/<name>.yaml 한 개씩 있으며, 스크립트가 파라미터화하여 읽고 하드코딩이 없습니다:

• 사이트: 이름, 도메인 접미사, 시간대;
• 네트워크: Pod / 서비스 네트워크 대역, 노드 서브넷, 게이트웨이, DNS, 공인망 진입점, 대역 외(out-of-band) 관리망;
• 소스: 오프라인 bundle 경로 또는 이미지 URL(에어갭 사이트는 오프라인 bundle 사용);
• 접속: 점프 서버, SSH 자격 증명 참조(평문은 DB에 저장하지 않음);
• 노드: 호스트 이름, 내부망 IP, 역할(제어면 / 계산 / 다중 모델 컴퓨팅), 하드웨어 사양과 하드 제약;
• 컴퓨팅: 가속 카드 유형과 수량(국산 / 범용 모두 가능), 배포할 모델 목록과 리소스 예약.

5. 오프라인 및 에어갭 배포

에어갭(완전 네트워크 단절)은 기본 역량이지 선택 사항이 아닙니다:

• 오프라인 이미지 전달: 네트워크 연결 환경에서 이미지 빌드·패키징 → 사이트 내 내부망 이미지 저장소로 탑재 → 클러스터가 풀, 노드에 docker 불필요;
• 오프라인 bundle: 컨테이너 기반, 이미지, 시스템 패키지를 오프라인 bundle로 묶어 에어갭 사이트에 한 번에 반입;
• 내부망 캐시: 이미지 프록시 + 소프트웨어 저장소 캐시, 느린 공인망(예: 0.5MB/s뿐)에서도 각 의존성을 느린 회선으로 한 번만 통과;
• 오프라인 업데이트: .tueoupdate 서명 업데이트 패키지를 검증한 후 가져오고, 디렉터리 세그먼트는 역량 플랫폼으로, 이미지 세그먼트는 내부망 저장소로 탑재하며, 미서명 패키지는 전부 거부합니다;
• 오프라인 인가: 서명 License를 네트워크 연결 없이 활성화하며, 소프트 노드 잠금으로 다중 배포 복사를 방지합니다.

6. 운영 매뉴얼

배포가 완료되면 모든 운영은 TUEO Console 하나의 화면에서 이루어집니다:

플랫폼 자체 업그레이드: 코드 push 시 자동 빌드 → 이미지 승격 → 이미지 교체 → 상태 확인 수렴; 업그레이드는 이미지 태그만 변경하고 창세 매니페스트를 다시 렌더링하지 않습니다(데이터 볼륨 / 마스터 키 / 게이트웨이 전부 유지).

7. 보안과 규정 준수

• 데이터는 기업 밖으로 나가지 않음: 모든 구성 요소를 내부망에 배포하고, 모델은 고객 자체 관리 게이트웨이나 로컬 모델을 사용하며, 키는 고객 네트워크 밖으로 나가지 않습니다;
• 멀티 테넌트 물리적 격리: 데이터베이스 행 수준 보안 + 서비스 레이어의 명시적 테넌트 필터의 이중 방어;
• 감사 기록: 암호화 해시 체인 감사로 위변조 감지 가능; 민감 작업은 2차 확인 + 승인 흐름;
• 심층 방어: OIDC 단일 로그인, 역할 수렴, 자격 증명 금고 암호화, 네트워크 단절 샌드박스, 콘텐츠 안전 게이트;
• 신창(信創) 규정 준수: 전 사이트 프라이빗(온프레미스) 배포로, 등급 보호(等保), 단계 보호 및 핵심 산업 규정 준수 요구를 충족합니다.

8. 전달 체크리스트

배포에 궁금한 점이 있거나 신창(信創) 환경 공동 튜닝이 필요하면, TUEO 전달 팀에 문의하세요.