본문 바로가기

폐쇄망 AI Infra

Kubernetes 기반의 폐쇄망 인프라를 구축하여 AI 서비스 운영에 필요한 실행 환경을 제공합니다.

OVERVIEW

폐쇄망 환경에서도 AI 서비스를 안정적으로 운영할 수 있습니다.

폐쇄망 AI Infra는 Kubernetes 설치만 제공하는 서비스가 아닙니다. AI 서비스를 안정적으로 운영할 수 있도록 인프라 구축부터 실행 환경, 운영 관리까지 하나의 플랫폼으로 제공합니다.

오프라인 인프라 구축

오프라인 인프라 구축

Kubernetes, GPU, Storage 등 AI 인프라를 인터넷 없이 구축할 수 있도록 지원합니다.

AI 실행 환경 구축

AI 실행 환경 구축

AI Runtime, Model Serving, GPU 환경을 구성하여 AI 서비스를 실행할 수 있는 환경을 제공합니다.

통합 운영

통합 운영

구축부터 배포, 업그레이드, 운영까지 하나의 플랫폼에서 관리하여 운영 부담을 줄입니다.

CHALLENGES

폐쇄망에서는 AI보다 AI 인프라를 먼저 준비해야 합니다.

인터넷이 없는 환경에서는 Kubernetes 기반 인프라부터 Container Image, AI 모델, 패키지와 운영 도구까지 내부에서 직접 준비하고 관리해야 합니다.

01

인터넷 없이 필요한 구성 요소를 확보해야 합니다.

Container Image, AI 모델, 패키지와 업데이트는 외부에서 직접 사용할 수 없어 내부 환경으로 안전하게 반입하고 관리해야 합니다.

02

AI 실행에 필요한 인프라를 인터넷 없이 직접 구축해야 합니다.

Kubernetes, GPU Driver, AI Runtime, Storage, Monitoring 등 AI 운영에 필요한 인프라를 인터넷 없이 직접 설치하고 구성해야 합니다.

03

프로젝트마다 구축 방식과 운영 환경이 달라집니다.

프로젝트마다 클러스터 구성, 이미지, AI 모델, 운영 방식이 달라지면 유지보수와 서비스 확장이 어려워집니다.

04

구축 이후에도 지속적인 운영이 필요합니다.

배포 이후에도 업그레이드, 모니터링, 장애 대응을 지속적으로 관리해야 합니다.

SOLUTION

폐쇄망 AI 플랫폼 운영에 필요한 핵심 인프라를 제공합니다.

01

Air-gapped 설치와 내부 공급망

Kubernetes, GPU, Storage를 인터넷 없이 구축할 수 있는 기반 제공합니다.

02

표준 AI Runtime

Image, AI 모델, 패키지를 내부 저장소에서 일관되게 관리합니다.

03

통합 인증과 보안 정책

Runtime과 Model Serving을 구성하여 AI 서비스를 실행할 수 있는 환경 제공합니다.

04

GPU · Kubernetes 통합 관측

GPU, Kubernetes와 AI 플랫폼 상태를 통합 관측하여 운영 현황을 한눈에 확인할 수 있습니다.

05

내부 데이터와 업무 활용

배포, 업데이트와 운영에 필요한 구성 요소를 내부 환경에서 관리합니다.

06

Managed K8s 확장

단일 폐쇄망 클러스터에서 시작해 사업부 · 공장 · 기관별 환경까지 동일한 ORKESTRIX 운영 기준으로 확장합니다.

ARCHITECTURE

폐쇄망 내부에서 데이터와 AI가 끊김 없이 동작하는 서비스 흐름

AI 실행부터 데이터 저장, 운영 관리까지 모든 구성 요소가 폐쇄망 내부에서 연결됩니다.

Internal UsersPrivate GPT · RAG Search · AI Agent
SAMANDAInternal AI · Reasoning · Monitoring · Operations
ORKESTRIXKubernetes · GPU · AI Runtime · Model Serving · KServe · vLLM
AkashiQObject Storage · Documents · Dataset · Model Artifact
QKSMulti Cluster · Multi Tenant · Enterprise AI Platform
Internal InfraAir-Gapped · On-Premise · Private Network
외부 API 호출 없음내부 Registry 운영자체 모델 사용Air-Gapped 운영

PRODUCT ROLES

필요한 영역부터 시작해, 하나의 폐쇄망 AI 운영 구조로 확장합니다.

각 제품은 독립적으로 도입할 수 있으며 고객의 데이터 · 서비스 · 운영 환경에 따라 유연하게 연계됩니다.

AI OPERATIONS

SAMANDA

SAMANDA

AI 서비스와 인프라 상태를 관측하고 분석하며 운영 대응을 지원합니다.

AI EXECUTION LAYER

ORKESTRIX

ORKESTRIX

Kubernetes, GPU, AI Runtime과 Model Serving 실행 기반을 제공합니다.

DATA FOUNDATION

AkashiQ

AkashiQ

문서, Dataset, Model Artifact와 AI 활용 데이터를 저장하고 관리합니다.

BEFORE / AFTER

폐쇄망 AI 인프라의 구축 부담을 줄이고, 지속 가능한 운영 기반을 확보합니다.

구축 전

  • 외부 연결이 필요하여 보안 위험과 통제 어려움
  • 외부 저장소 및 서비스 의존 이미지, 패키지, 모델 등을 외부에서 다운로드하여 보안 이슈와 공급 중단 리스크가 발생
  • 수작업 기반 배포와 설정으로 운영 일관성이 낮고 오류 발생 가능성 높음
  • 모니터링과 로그 관리가 분산되어 장애 대응과 성능 파악 어려움

구축 후

  • Air-Gapped 환경에서 외부 연결 없이 안전하고 독립적으로 운영
  • 내부 Registry 기반 자산 관리, 이미지 · 패키지 · 모델 · 데이터를 내부 Registry에서 통합 관리하여 보안성과 일관성 확보
  • 자동화된 배포 · 업데이트로 운영 효율성과 일관성 향상
  • 통합 모니터링 및 로그 수집으로 시스템 상태를 실시간으로 파악하고 신속한 대응 가능

APPLICATIONS

데이터 반출이 제한된 산업에서 안전한 AI 운영 환경을 구축합니다.

민감한 데이터와 AI 모델을 외부로 보내지 않고, 조직의 보안 정책 안에서 AI 서비스를 운영할 수 있습니다.

제조 AI 운영 환경

설계 · 생산 · 품질 · 설비 데이터를 외부로 반출하지 않고 공장 내부에서 AI에 활용합니다.

  • 공장 내부 GPU · Kubernetes 실행 환경
  • 생산 · 품질 · 설비 데이터 내부 저장
  • 작업 매뉴얼 기반 RAG · 현장 AI 활용
  • 공장별 운영 · 보안 기준 통합 관리