OVERVIEW

JPU-Share란?

JPU-Share는 전북대학교 지능형 연산 자원 공유 플랫폼입니다. GPU 서버에 직접 접속하지 않고, 코드를 업로드하면 자동으로 GPU에서 실행되고 결과를 받아볼 수 있습니다.

유휴 GPU에서는 LLM 추론 서비스가 상시 운영되어, OpenAI 호환 API로 다양한 오픈소스 모델을 활용할 수 있습니다.

핵심 흐름

현재 리소스

ACCOUNT

계정 및 로그인

관리자가 생성한 계정으로 로그인합니다. 계정이 없으면 관리자에게 요청하세요.

로그인 방법

1. 콘솔 페이지에 접속합니다.
2. 발급받은 사용자 이름과 비밀번호를 입력합니다.
3. 로그인 후 사이드바에서 원하는 기능을 선택합니다.

역할

계정에는 세 가지 역할이 있으며, 역할은 조직 관리 권한에만 적용됩니다 — 연구실 관리, 멤버 추가/제거, 시스템 운영 등.

내 정보 및 비밀번호 변경

콘솔 사이드바의 "내 정보" 페이지에서 본인의 학번, 이름, 이메일, 역할, 소속 연구실 등을 확인할 수 있습니다.

같은 페이지에서 "비밀번호 변경" 버튼을 눌러 비밀번호를 변경할 수 있습니다. 현재 비밀번호를 입력한 후 새 비밀번호를 설정합니다.

연구실 관리 (교수/관리자)

교수(Professor) 이상의 역할은 콘솔 사이드바에 "연구실 관리" 탭이 표시됩니다.

• 교수: 자기 연구실의 멤버 목록, 멤버별 작업 조회, 사용량 확인, 멤버 추가/제거
• 관리자: 모든 연구실을 선택하여 관리 가능, 연구실 생성

멤버를 클릭하면 해당 멤버의 작업 목록을 모달로 확인할 수 있습니다.

JOB SUBMISSION

작업 제출

소스 코드 준비

코드를 제출하는 방법은 두 가지입니다:

my-project/
├── main.py    ← 엔트리포인트
├── model.py
├── utils/
│   └── data.py
└── config.yaml

$ cd my-project
$ zip -r ../my-project.zip .

https://github.com/user/my-training.git

제출 폼 항목

실행 명령 예시

시스템 환경변수

시스템이 아래 환경변수를 자동으로 주입합니다. 값은 고정되어 있으므로 수정하지 말고 그대로 읽어서 사용하면 됩니다.

결과 저장 예시

import os, json, torch
from pathlib import Path

output_dir = Path(os.getenv("JOB_OUTPUT_DIR", "."))
output_dir.mkdir(parents=True, exist_ok=True)

# 학습 후...
torch.save(model.state_dict(), output_dir / "model.pt")
with open(output_dir / "metrics.json", "w") as f:
    json.dump({"loss": 0.42, "accuracy": 0.91}, f)

WORKSPACE

워크스페이스 (실행 환경)

워크스페이스는 작업이 실행되는 환경입니다. 기본 환경(PyTorch + CUDA)으로 바로 시작할 수도 있고, 필요한 패키지를 추가한 커스텀 환경을 만들 수도 있습니다.

기본 환경

워크스페이스를 만들지 않아도 기본 환경이 자동으로 적용됩니다:

• PyTorch 2.5.1 + CUDA 12.4 + cuDNN
• numpy, pyyaml, torchvision, torchaudio, opencv, Pillow 포함
• Apptainer 컨테이너 기반 격리 실행

커스텀 환경 만들기

1. 콘솔 사이드바에서 "워크스페이스" 페이지로 이동합니다.
2. "+ 새 워크스페이스" 버튼을 클릭합니다.
3. 이름, 베이스 이미지를 선택하고, 추가 패키지를 입력합니다.
4. "워크스페이스 만들기"를 클릭하면 빌드가 시작됩니다 (1~5분 소요).
5. 빌드 완료 후 "기본으로 설정" 버튼으로 기본 환경으로 지정합니다.

# 패키지 입력 예시 (한 줄에 하나씩)
transformers>=4.40
wandb
scipy>=1.12
scikit-learn
matplotlib

셋업 스크립트

pip 패키지 외에 시스템 패키지가 필요하면 셋업 스크립트를 입력할 수 있습니다:

# 예: ffmpeg 설치
apt-get update && apt-get install -y ffmpeg

환경 선택 우선순위

작업 제출 시 워크스페이스는 다음 순서로 결정됩니다:

1. 제출 폼에서 직접 선택한 워크스페이스
2. "기본"으로 설정한 내 워크스페이스
3. 가장 최근에 만든 내 워크스페이스
4. 시스템 기본 환경 (pytorch-default)

환경 공유

다른 사용자의 워크스페이스를 사용하려면, 해당 사용자에게 workspace snapshot ID를 받아서 작업 제출 시 직접 지정하면 됩니다.

제한

RESULTS

결과 확인

작업 상태

결과 다운로드

콘솔의 "결과" 페이지에서 완료된 작업의 출력 파일을 확인하고 다운로드할 수 있습니다.

• stdout 로그: 표준 출력/에러 전체 내용
• 출력 파일: JOB_OUTPUT_DIR에 저장한 파일들

작업 취소

"내 작업" 페이지에서 실행 중이거나 대기 중인 작업을 취소할 수 있습니다.

GPU MANAGEMENT

GPU와 자동 배정

최상위 tier 우선 배정

작업을 제출하면 시스템이 가장 좋은 GPU부터 가용 여부를 확인하고 배정합니다.

OOM 처리

GPU 메모리가 부족하면(OOM) 해당 GPU는 "이 작업에 부족하다"고 판단하고, 더 큰 GPU에서만 재시도합니다:

재시도 시 JOB_ATTEMPT 환경변수가 증가합니다. 체크포인트 복원에 활용할 수 있습니다.

Multi-GPU

분산 학습이 필요하면 제출 시 GPU 수를 지정합니다 (기본 1장, 최대 8장). tier별로 최대 GPU 수가 다를 수 있습니다.

# Multi-GPU DDP 실행 예시
torchrun --nproc_per_node=2 train.py --epochs 50

공정성 정책 (Fair-share)

GPU 배정은 연구실(Lab) 단위 사용량을 기반으로 우선순위가 결정됩니다.

• 각 사용자는 하나의 연구실에 소속됩니다.
• GPU 사용 시간이 연구실 단위로 누적됩니다 (TFLOP-seconds 기준).
• 누적 사용량이 적은 연구실이 우선 배정됩니다.
• 누적 사용량은 1주일 반감기로 점진 소멸 — 안 쓰면 우선순위 회복.
• OOM은 시스템 귀책이므로 사용량에서 제외됩니다.

모니터링

콘솔의 "모니터" 페이지에서 GPU 사용률, 온도, 메모리 등을 실시간으로 확인할 수 있습니다. Grafana 대시보드가 임베드되어 있습니다.

자동 이상 감지

플랫폼은 Prometheus 기반 알림 시스템을 운영하며, 다음 상황을 자동으로 감지합니다:

• GPU 장애 — XID 에러 발생 시 즉시 감지, 해당 노드 자동 drain
• GPU 과열 — 85°C 이상 지속 시 경고, 90°C 이상 시 긴급 알림
• 노드 다운 — GPU/노드 모니터링 에이전트 미응답 2분 이상 시 알림
• 텔레메트리 유실 — GPU 메트릭이 2분 이상 갱신되지 않으면 경고
• 디스크/메모리 부족 — 노드 리소스 사용량 90% 초과 시 경고

LLM SERVICE

LLM 추론 서비스

유휴 GPU에 오픈소스 LLM이 자동으로 배포됩니다. 연구 작업이 들어오면 LLM이 자동으로 양보하고, 작업이 끝나면 다시 배포됩니다.

사용 방법

OpenAI Python SDK를 그대로 사용할 수 있습니다:

from openai import OpenAI

client = OpenAI(
    base_url="https://jota.jbnu.ac.kr/v1/llm",
    api_key="sk-xxxxxxxx"   # 콘솔에서 발급
)

response = client.chat.completions.create(
    model="auto",     # 또는 모델명 생략 (자동 선택)
    messages=[
        {"role": "user", "content": "양자역학의 기본 원리를 설명해주세요."}
    ]
)
print(response.choices[0].message.content)

스트리밍

stream = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "Hello!"}],
    stream=True
)
for chunk in stream:
    if chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

curl 사용

curl -X POST https://jota.jbnu.ac.kr/v1/llm/chat/completions \
  -H "Authorization: Bearer sk-xxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama-3-8b",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

API 키 관리

1. 콘솔 사이드바에서 "LLM API" 페이지로 이동합니다.
2. "새 API 키 생성"을 클릭합니다.
3. 생성된 키(sk-...)를 복사합니다. 이 키는 한 번만 표시됩니다.
4. 발급 후 28일간 유효합니다. 1인당 최대 2개 보유 가능.

Rate Limit

사용자당 30 req/min으로 제한됩니다. 초과 시 429 응답을 받습니다.

엔드포인트

REST API

외부에서 API로 사용하기

콘솔 웹 UI의 모든 기능은 REST API로도 사용할 수 있습니다. 스크립트, CI/CD, 자동화 파이프라인에서 직접 작업을 제출하고 결과를 가져올 수 있습니다.

인증: JWT 토큰 발급

API 호출에는 JWT 토큰이 필요합니다. 콘솔 로그인과 동일한 계정을 사용합니다.

# 토큰 발급
TOKEN=$(curl -s -X POST https://jota.jbnu.ac.kr/v1/auth/token \
  -H "Content-Type: application/x-www-form-urlencoded" \
  -d "grant_type=password&client_id=gpu-platform-api&username=YOUR_ID&password=YOUR_PW" \
  | python3 -c "import sys,json; print(json.load(sys.stdin)['access_token'])")

# 이후 모든 API 호출에 사용
curl -H "Authorization: Bearer $TOKEN" https://jota.jbnu.ac.kr/v1/jobs

작업 제출 (zip 업로드)

# zip 파일로 작업 제출
curl -X POST https://jota.jbnu.ac.kr/v1/jobs \
  -H "Authorization: Bearer $TOKEN" \
  -F "artifact=@my-project.zip"

# 실행 명령과 환경변수 지정
curl -X POST https://jota.jbnu.ac.kr/v1/jobs \
  -H "Authorization: Bearer $TOKEN" \
  -F "artifact=@my-project.zip" \
  -F "command=python train.py" \
  -F "args=--epochs 50 --lr 0.001" \
  -F "env=WANDB_MODE=offline"

작업 제출 (Git URL)

curl -X POST https://jota.jbnu.ac.kr/v1/jobs \
  -H "Authorization: Bearer $TOKEN" \
  -F "git_url=https://github.com/user/my-training.git" \
  -F "git_ref=main"

작업 목록 조회

curl -H "Authorization: Bearer $TOKEN" \
  https://jota.jbnu.ac.kr/v1/jobs

작업 상세 조회

curl -H "Authorization: Bearer $TOKEN" \
  https://jota.jbnu.ac.kr/v1/jobs/{job_id}

작업 취소

curl -X POST -H "Authorization: Bearer $TOKEN" \
  https://jota.jbnu.ac.kr/v1/jobs/{job_id}/cancel

결과 다운로드

# 출력 파일 목록
curl -H "Authorization: Bearer $TOKEN" \
  https://jota.jbnu.ac.kr/v1/jobs/{job_id}/outputs

# 전체 출력을 zip으로 다운로드
curl -H "Authorization: Bearer $TOKEN" -o output.zip \
  https://jota.jbnu.ac.kr/v1/jobs/{job_id}/outputs-zip

# 개별 파일 다운로드
curl -H "Authorization: Bearer $TOKEN" -o model.pt \
  https://jota.jbnu.ac.kr/v1/jobs/{job_id}/outputs/model.pt

Python 예시

import requests

BASE = "https://jota.jbnu.ac.kr"

# 토큰 발급
token = requests.post(f"{BASE}/v1/auth/token", data={
    "grant_type": "password",
    "client_id": "gpu-platform-api",
    "username": "YOUR_ID",
    "password": "YOUR_PW",
}).json()["access_token"]

headers = {"Authorization": f"Bearer {token}"}

# 작업 제출
with open("my-project.zip", "rb") as f:
    resp = requests.post(f"{BASE}/v1/jobs",
        headers=headers,
        files={"artifact": f},
        data={"command": "python train.py"},
    )
job_id = resp.json()["job_id"]
print(f"Submitted: {job_id}")

# 상태 확인
status = requests.get(f"{BASE}/v1/jobs/{job_id}",
    headers=headers).json()
print(f"State: {status['state']}")

# 결과 다운로드
resp = requests.get(f"{BASE}/v1/jobs/{job_id}/outputs-zip",
    headers=headers)
with open("output.zip", "wb") as f:
    f.write(resp.content)

전체 엔드포인트

FAQ

자주 묻는 질문

Q. 외부 데이터를 다운로드하고 싶은데 네트워크가 차단됩니다.

보안을 위해 작업 실행 중에는 외부 네트워크가 차단됩니다. 데이터는 /data/shared에 사전 배치하거나, 관리자에게 데이터 배치를 요청하세요. 사전학습 모델(YOLOv8 등)이 필요한 경우에도 관리자에게 문의하면 /data/shared/models/에 배치해 드립니다 (jedutools@gmail.com).

Q. pip install이 안 됩니다.

실행 중에는 네트워크가 차단되므로 pip install이 실패합니다. 워크스페이스에서 미리 패키지를 설치하세요. 워크스페이스 빌드 시에만 네트워크가 열립니다.

Q. OOM이 발생했는데 자동으로 재시도됩니다. 원하지 않으면?

OOM 발생 시 더 큰 GPU에서 자동 재시도는 시스템 기본 동작입니다. 더 큰 GPU가 없으면 최종 실패합니다. 배치 크기를 줄이거나 모델을 경량화해 주세요. OOM 재시도는 사용량에 산정되지 않습니다.

Q. 작업이 오래 걸려요. 제한 시간은?

기본 제한 시간은 워크스페이스 설정에 따르며, 최소 60초 ~ 최대 72시간입니다.

Q. wandb나 mlflow를 쓸 수 있나요?

현재 작업 실행 중 외부 네트워크가 차단되어 wandb/mlflow 원격 로깅이 불가합니다. 로컬 파일로 기록한 뒤 JOB_OUTPUT_DIR에 저장하세요.

Q. 다른 사람의 작업이 끝날 때까지 얼마나 기다려야 하나요?

대기 시간은 현재 실행 중인 작업들에 따라 다릅니다. 연구실별 누적 사용량이 적을수록 우선 배정됩니다. "모니터" 페이지에서 GPU 사용 현황을 확인할 수 있습니다.

Q. LLM 서비스가 "사용 불가"로 표시됩니다.

모든 GPU가 연구 작업에 사용 중이면 LLM 서비스가 일시 중단됩니다. 연구 작업이 완료되면 자동으로 복구됩니다.

문의

추가 질문이나 계정 발급 요청: jedutools@gmail.com