코드 업로드
학습 코드를 zip으로 묶어서 업로드하세요.
main.py를 넣으면 자동으로 실행됩니다.
HOW IT WORKS
3단계로 GPU 학습 실행
SSH도, Docker도, GPU 서버 선택도 필요 없습니다.
자동 실행
시스템이 비어있는 GPU를 찾아 코드를 실행합니다. GPU 모델을 고를 필요가 없습니다.
결과 확인
실행 로그를 실시간으로 확인하고, 완료되면 모델과 결과물을 다운로드하세요.
FEATURES
직접 신경 쓰지 않아도 되는 것들
GPU 배정
알아서 맞는 GPU를 찾아줍니다
- 가장 좋은 GPU부터 우선 배정 — 빈 GPU가 있으면 최상위부터
- 메모리 부족(OOM) 시 더 큰 GPU에서 자동 재시도
- 어떤 GPU에서 돌릴지 고민할 필요 없음
워크스페이스
나만의 실행 환경을 만들 수 있습니다
- 기본 환경: PyTorch 2.3 + CUDA 12.4 — 설정 없이 바로 사용
- 추가 패키지가 필요하면 콘솔에서 커스텀 환경 생성
- 환경은 한번만 만들면 이후 코드만 바꿔서 반복 실행
- 패키지 설치는 환경 빌드 시에만 — 실행 중 외부 네트워크 차단
공정한 공유
모든 사용자가 공평하게 사용합니다
- 연구실 단위 사용량 추적 — 적게 쓴 연구실이 우선
- 계정별 동시 실행 수 제한
- 한 사람이 GPU를 독점할 수 없음
모니터링
GPU 상태를 실시간으로 볼 수 있습니다
- 학습 로그(stdout) 실시간 확인
- GPU 사용률, 온도, 메모리 대시보드
- 작업 상태: 대기 → 배정 → 실행 → 완료
- GPU 장애·과열·노드 다운 자동 감지 및 알림
QUICK START
5분 안에 첫 학습 돌리기
코드 준비
학습 코드를 main.py로 만들고 zip으로 묶으세요.
my-project/ ├── main.py ← 이 파일이 실행됩니다 ├── model.py └── utils.py $ cd my-project $ zip -r ../my-project.zip .
결과 저장
코드에서 JOB_OUTPUT_DIR에 결과를 저장하면 다운로드할 수 있습니다.
import os, torch, json
from pathlib import Path
out = Path(os.getenv("JOB_OUTPUT_DIR", "."))
out.mkdir(parents=True, exist_ok=True)
# 학습 후...
torch.save(model.state_dict(), out / "model.pt")
(out / "metrics.json").write_text(
json.dumps(history)
)
준비됐으면:
콘솔에서 제출하기
LLM SERVICE
교내 전용 LLM 추론 서비스
유휴 GPU에 오픈소스 LLM이 상시 배포됩니다. API 키 하나로 다양한 모델을 테스트하고, 나만의 AI Agent를 구축하세요.
OpenAI 호환 API
기존에 쓰던 코드·라이브러리를 그대로 연결하세요. 엔드포인트 URL만 바꾸면 됩니다.
from openai import OpenAI
client = OpenAI(
base_url="https://jota.jbnu.ac.kr/v1/llm",
api_key="your-token"
)
resp = client.chat.completions.create(
model="llama-3-8b",
messages=[{"role": "user",
"content": "Hello!"}]
)
AI Agent · 자동화
토큰 제한·과금 없이 로컬 AI Agent를 자유롭게 운영하세요.
- 논문 요약·번역 자동화
- 코드 리뷰·생성 에이전트
- RAG 기반 연구 어시스턴트
- 데이터 분석 파이프라인
연구 우선 · 제로 낭비
GPU 학습 작업이 들어오면 LLM이 자동으로 양보합니다. 연구가 항상 최우선입니다.
- Slurm preemption 기반 자동 양보
- 연구 작업 완료 후 LLM 자동 복구
- GPU 가동률 극대화 — 빈 GPU 없음
- Llama, Qwen, Gemma 등 다양한 모델
AND MORE
GPU를 더 똑똑하게 쓰는 방법
- 연구실 간 데이터 공유
- /data/shared 공용 스토리지
- 대용량 데이터 재다운로드 불필요
- 2장 이상 GPU 분산 학습
- DDP / FSDP 지원
- GPU 수 지정 제출
- wandb, mlflow 연동
- 실험 비교 및 추적
- 연구실 간 환경 공유