문서 목차
사전학습·월드모델
텍스트 데이터로 언어 모델을 처음부터 학습(사전학습)하거나 기존 모델을 이어서 학습하고, 영상·공정 데이터로 다음 상태를 예측하는 월드모델을 학습하는 화면입니다.
QUANTUM C&S
텍스트 데이터로 언어 모델을 처음부터 학습(사전학습)하거나 기존 모델을 이어서 학습하고, 영상 · 공정 데이터로 다음 상태를 예측하는 월드모델을 학습하는 화면입니다.
왼쪽 메뉴 모델 > 사전학습과 모델 > 월드모델에서 엽니다. 학습이 끝난 결과는 모델 레지스트리에 자동으로 등록됩니다.
주요 기능
| 기능 | 설명 |
|---|---|
| 사전학습 | 텍스트 데이터셋으로 언어 모델을 처음부터 학습합니다. 아키텍처 프리셋 중에서 고릅니다. |
| 이어서 학습(CPT) | 레지스트리의 기존 모델에 데이터를 더해 계속 학습합니다(Continued Pre-Training). BitNet 삼원 가중치로 변환해 학습할 수도 있습니다. |
| 월드모델 학습 | 액션 조건부 동역학 모델을 학습합니다. 다음 토큰이 아니라 다음 상태를 예측합니다. |
| GPU 선택 | Device Plugin, DRA(전용 · 공유 그룹), 원격 GPU 중에서 GPU 할당 방식을 고릅니다. |
| 진행 확인 | 진행률 · Loss · 소요 시간, 학습 곡선, 자원 사용량, 로그를 실시간으로 확인합니다. |
| 자동 재시작 | 학습 작업이 중단되면 마지막 체크포인트에서 자동으로 이어 갑니다. |
| 복제 · 재개 | 같은 설정으로 새 작업을 만들거나, 실패 · 취소된 작업을 체크포인트에서 이어 학습합니다. |
사전학습 목록
| 영역 | 설명 |
|---|---|
| 새 사전학습 | 사전학습 작업 생성 창을 엽니다. |
| 상태 카드 | 전체 · 학습중 · 완료 · 실패 작업 수입니다. 카드를 누르면 그 상태만 봅니다. |
| 검색 | 작업명, 모델명, 아키텍처로 검색합니다. |
| 작업 표 | 작업명(아래 줄은 출력 모델명), 상태, 진행률(Step · Loss · 소요 시간), 아키텍처, 데이터셋, 생성일, 작업(삭제) |
| 일괄 삭제 | 행 왼쪽 체크박스로 여러 작업을 고른 뒤 선택 삭제를 누릅니다. |
작업 상태
| 상태 | 설명 |
|---|---|
| 대기중 | 자원 할당을 기다리고 있습니다. |
| 학습중 | 학습이 진행 중입니다. |
| 완료 | 학습이 끝나고 출력 모델이 레지스트리에 등록되었습니다. |
| 실패 | 학습 중 오류가 발생했습니다. 상세 화면의 오류 내용과 로그를 확인하세요. |
| 취소됨 | 사용자가 학습을 취소했습니다. |
사전학습 시작하기
1단계: 기본 정보 입력
새 사전학습을 누르고 다음을 입력합니다.
| 항목 | 설명 | 규칙 |
|---|---|---|
| 작업 이름 | 예: korean-gpt-nano | 필수 |
| 출력 모델명 | 레지스트리에 등록될 모델 이름. 예: korean-gpt-nano-v1 | 필수 |
| 이어서 학습 (Continued Pre-Training) | 체크하면 기존 모델을 기반으로 추가 데이터로 계속 학습합니다. 체크하지 않으면 처음부터 학습합니다. | 체크하면 Base 모델 필수 |
| 태그 | 자동 태그 외에 추가할 태그 | 입력 후 Enter 또는 추가 |
2단계: 모델 아키텍처 또는 Base 모델 선택
처음부터 학습할 때는 모델 아키텍처를 고릅니다.
| 아키텍처 | 설명 | 규모 |
|---|---|---|
| NanoGPT | 파이프라인 검증용 최소 GPT(기본값) | 약 10M |
| GPT-2 Small | 표준 GPT-2 small | 약 124M |
| GPT-2 Medium | 더 큰 실험용 GPT-2 | 약 350M |
| Llama Tiny | RoPE 를 쓰는 소형 Llama 구조 | 약 1B |
| BitNet 1.58b Small | 삼원 {-1, 0, +1} 가중치 | 약 124M |
| BitNet 1.58b Medium | 삼원 {-1, 0, +1} 가중치 | 약 350M |
이어서 학습할 때는 Base 모델을 고르고, 필요하면 **BitNet 변환 (삼원 균형)**을 체크합니다. 체크하면 모든 Linear 레이어를 BitLinear 로 바꿔 {-1, 0, +1} 삼진법 가중치로 학습하고, 체크하지 않으면 원본 정밀도(FP16/BF16)로 이어 학습합니다.
3단계: 데이터셋과 토크나이저
| 항목 | 설명 |
|---|---|
| 학습 데이터셋 | 데이터셋과 버전을 고릅니다. 데이터셋 추가로 여러 데이터셋을 함께 쓸 수 있습니다. 모든 데이터셋에 버전을 지정해야 합니다. |
| 토크나이저 | BPE 학습 (새로 생성) — 학습 데이터로 토크나이저를 새로 만듭니다. Vocab Size 기본값은 32000 입니다. |
4단계: 학습 설정과 리소스
| 항목 | 기본값 | 범위 |
|---|---|---|
| Epochs | 3 | 1~100 |
| Learning Rate | 0.0005 | — |
| Batch Size | 4 | 1~128 |
| Gradient Accum Steps | 4 | 1 이상 |
| GPU 할당 방식 | — | 아래 "GPU 할당 방식" 절 참고 |
| GPU 수 | 1 | 0~8 (Device Plugin 방식일 때만 표시) |
| CPU Cores · Memory (GB) | 4 · 16 | — |
| 자동 재시작 | 켜짐, 최대 5회 | 최대 재시작 횟수 1~20 |
참고 자동 재시작을 켜 두면 학습 작업이 중단되었을 때 마지막 체크포인트에서 자동으로 이어 갑니다. 같은 오류가 3회 연속 발생하면 재시작을 멈춥니다.
5단계: 학습 시작
사전학습 시작(이어서 학습일 때는 CPT 학습 시작)을 누릅니다. 작업이 목록에 대기중으로 추가되고, 자원이 할당되면 학습중으로 바뀝니다.
GPU 할당 방식
사전학습 · 월드모델 · 파인튜닝 · 정렬 작업은 같은 GPU 선택 칸을 사용합니다. 클러스터 구성에 따라 고를 수 있는 방식만 표시됩니다.
| 방식 | 설명 |
|---|---|
| Device Plugin | GPU 리소스 종류(전체 GPU 또는 MIG 조각)와 GPU 수를 지정합니다. 종류마다 가용 수가 함께 표시됩니다. |
| DRA · 전용 | Claim 템플릿을 골라 작업마다 디바이스 1개를 받습니다. |
| DRA · 공유 그룹 | 공유 그룹을 골라 여러 작업이 GPU 1장을 나눠 씁니다. |
| 원격 DRA · 외부 클러스터 | 다른 클러스터의 GPU 풀에서 학습합니다. 풀 대기열에서 기다릴 수 있으며, 결과는 모델 레지스트리로 돌아옵니다. 풀 사용 권한이 있는 사용자에게만 표시됩니다. |
참고 DRA 방식에서는 받을 디바이스 수를 템플릿 · 공유 그룹이 정하므로 GPU 수 칸이 표시되지 않습니다. Claim 템플릿이나 공유 그룹이 없으면 관리자가 플랫폼 설정의 GPU 메뉴에서 만들 수 있습니다.
주의 device-plugin 방식을 쓰는 GPU 노드가 없는 클러스터에서 Device Plugin 으로 요청하면 작업이 계속 대기합니다. 화면에 이 경고가 표시되면 Claim 템플릿(전용) 또는 공유 그룹을 고르세요.
월드모델
월드모델 화면은 파인튜닝 · 사전학습 · 평가 세 탭으로 되어 있습니다. 현재 학습을 실행할 수 있는 탭은 파인튜닝이며, 사전학습과 평가 탭은 준비 중 안내를 표시합니다.
| 영역 | 설명 |
|---|---|
| 상태 카드 | 전체 · 학습 중 · 완료 · 실패 |
| 검색 | 이름 · 출력 모델 · 데이터셋으로 검색합니다. |
| 새로고침 · 학습 시작 | 목록을 새로 읽거나 학습 창을 엽니다. |
| 작업 표 | 작업(이름을 누르면 상세 화면), 트랙, 상태, 베이스 모델, 데이터셋(버전 포함), 생성, 삭제 |
트랙
| 트랙 | 설명 | 상태 |
|---|---|---|
| 시각 | 영상 월드모델 post-training. 정상 영상과 공정 조건으로 이상 상태를 생성 · 판정합니다. | 사용 가능 |
| 공정 | 공정 센서 시계열 상태전이 모델 | 준비 중 |
월드모델 학습 시작하기
1단계: 트랙 선택
학습 시작을 누르고 트랙을 먼저 고릅니다. 트랙마다 베이스 모델과 데이터셋 형태가 다릅니다.
2단계: 항목 입력
| 항목 | 설명 | 규칙 |
|---|---|---|
| 작업 이름 | 예: coater-defect-wm-v1 | 필수 |
| 출력 모델 이름 | 레지스트리에 등록될 이름 | 필수 |
| 베이스 모델 | 영상 월드모델 체크포인트 | 시각 트랙은 필수 |
| 데이터셋 · 데이터셋 버전 | 슬러그와 버전은 항상 짝으로 기록합니다. | 데이터셋 필수 |
| 에폭 · 학습률 · 배치 크기 | 기본값 3 · 0.00001 · 1 | 선택 |
| GPU 할당 방식 | 위 GPU 할당 방식과 같습니다. | — |
| CPU 코어 · 메모리(GB) | 기본값 8 · 64 | 선택 |
| 공개 범위 | 전체 공개 · 그룹 · 비공개 | 선택 |
3단계: 생성
생성을 누릅니다.
주의 시각 트랙은 전처리된 SFT 데이터셋을 받아 LoRA 학습을 수행합니다. 원본 클립 데이터셋을 고르면 학습을 시작하지 않고 멈춥니다. 전처리에서 '월드모델 파인튜닝용' 프리셋을 먼저 실행하세요.
학습 작업 상세 화면
목록에서 작업 이름을 누르면 상세 화면이 열립니다. 사전학습 · 월드모델 · 파인튜닝 · 정렬 작업은 모두 같은 상세 화면을 사용합니다.
머리 영역 버튼
| 버튼 | 표시 조건 | 동작 |
|---|---|---|
| 새로고침 | 항상 | 작업 정보를 다시 읽습니다. |
| 복제 | 항상 | 같은 설정이 채워진 생성 창을 엽니다. |
| 취소 | 대기 · 학습 중 | 진행 중인 학습을 취소합니다. |
| 이어서 학습 | 실패 · 취소됨 | 마지막 체크포인트에서 학습을 이어 갑니다. 새 학습 작업이 만들어집니다. |
| 삭제 | 완료 · 실패 · 취소됨 | 작업을 삭제합니다. 되돌릴 수 없습니다. |
자동화 플로우가 실행한 작업이면 머리 영역 아래에 어떤 플로우의 몇 단계에서 실행되었는지와 이 실행 보기 링크가 표시됩니다.
탭
| 탭 | 내용 |
|---|---|
| 개요 | 학습 진행(진행률 · Epochs · Steps · Loss · 소요 시간 · 예상 남은 시간), 모델 및 데이터셋(베이스 모델 또는 아키텍처, 데이터셋, 출력 모델 · 출력 버전, 학습 방법), 학습 설정, 리소스(GPU, 실행 위치, GPU 유형 또는 DRA 템플릿 · 공유 그룹, CPU, Memory), 타임라인(생성 · 시작 · 완료), 자동 재시작(상태 · 재시작 횟수 · 마지막 재시작 · 마지막 실패 원인) |
| 학습 곡선 | Loss 와 Learning Rate 곡선, 최소 · 최종 Train/Eval Loss, 최종 Step. 학습이 끝나면 학습 품질 평가와 개선 제안 / 다음 단계, 학습 종료 시 자동 생성된 샘플 응답이 표시됩니다. |
| 모니터링 | 학습 중 CPU · 메모리 · GPU 사용량. 원격 GPU 에서 실행한 작업은 원격 실행 안내를 표시합니다. |
| 로그 | 학습 로그를 실시간으로 봅니다. 학습이 시작되면 표시됩니다. |
참고 출력 버전 옆에는 학습 중 · 실패 · 업로드 완료 상태가 표시됩니다. 업로드 완료가 되면 모델 레지스트리에서 해당 버전을 서빙 · 다운로드 · 평가할 수 있습니다.
권한
| 대상 | 허용 작업 |
|---|---|
| 학습 작업 권한이 있는 사용자 | 작업 생성 · 조회 · 취소 · 재개 · 복제 · 삭제 |
| 학습 관리 권한(관리자) | 위 작업 + 모니터링 탭의 학습 스토리지 현황 조회 |
| 원격 GPU 풀 사용 권한이 있는 사용자 | 원격 DRA · 외부 클러스터 선택 |
참고 공개 범위에 따라 다른 사용자가 작업과 출력 모델을 볼 수 있는지가 정해집니다. 권한은 IGA(권한 관리)에서 관리합니다.