도움말

서버

문서

서버 한 대 = Onpod의 가장 기본 단위. 내가 원하는 GPU·CPU와 디스크를 골라 작업해요. 학습·실험·노트북 작업 모두 여기서 시작해요. 명령어는 외울 필요 없이 콘솔에서 클릭하거나, 코딩 에이전트한테 말하면 돼요.

언제 쓰나요?

  • 학습 한 번 돌리기
  • 모델 가중치·데이터셋 가지고 실험하기
  • 띄울 앱이 한 대로 충분할 때 (자동 확장 불필요)
  • 여러 대 묶음·공개 주소가 필요하면 내 앱 올리기 쪽이 더 쉬워요

한 대 빌리기

콘솔 사이드바 「서버」 → 「새 서버」 에서 GPU·이미지·디스크를 골라 만들 수 있어요. 또는 에이전트한테 말해도 돼요.

코딩 에이전트한테 이렇게 말하세요

“L4 GPU 한 대에 pytorch 이미지로 서버 하나 띄워줘”

해외에서 빌리기 (미국·유럽)

CPU 서버는 미국 동부(버지니아)나 유럽(프랑크푸르트)에서도 빌릴 수 있어요. 새 서버 화면 맨 위 「리전」 에서 고르면 돼요. 해외 리전은 직접 고를 때만 쓰여요 — 고르지 않으면 늘 국내에서 열려요.

  • CPU 서버만 돼요. GPU·관리형 DB·웹앱 요금제·공유 디스크는 국내에서만 써요.
  • 해외 서버는 처음 켤 때 약 3분 걸려요(그 리전에서 새로 띄워요).
  • 한국에서 접속하면 응답이 조금 느릴 수 있어요. 해외 사용자가 많은 서비스에 잘 맞아요.
코딩 에이전트한테 이렇게 말하세요

“미국 동부에 CPU 서버 한 대 띄워줘”

여러 서버를 하나로 묶는 학습 (노드 간 고속 연결)

서버 여러 대의 GPU 를 한 학습에 묶을 수 있어요(다중 노드 NCCL · torchrun). 새 서버 화면에서 우리 회사 전용 서버를 「서버 고정」으로 고르면 나오는 「노드 간 고속 연결」 을 켜세요 — 그 서버의 팟이 다른 서버의 팟과 서버 간 고속 통신망(RDMA)으로 직접 연결돼요. 서버마다 팟 하나씩(그 서버의 GPU 전부) 만들고, 첫 팟의 「노드 IP」를 다른 팟의 학습 스크립트에 랑데부 주소(MASTER_ADDR)로 주면 돼요. CLI 는 onpod pod create --gpu b300_288gb:8 --host <서버 id> --interconnect.

  • 우리 회사 전용(또는 소유) 서버의 GPU 를 전부 잡는 팟에만 켤 수 있어요 — 서버 한 대를 다른 팀과 나누지 않는 구성이라서요. GPU 수가 서버 전체와 다르면 만들어지지 않아요.
  • 컨테이너 안에는 ONPOD_NODE_IP(내 서버 주소)와 NCCL_SOCKET_IFNAME 이 미리 들어가 있어요. 포트 설정에 적은 포트는 그대로 서버 포트가 돼요(무작위 포트 배정 없음).
  • 아웃바운드 방화벽·고정 발신 IP·Spot·무료 플랜과는 함께 못 쓰고, 다른 서버로 옮기기도 안 돼요. 재시작은 같은 서버에서만 돼요.
  • 서버를 통째로 쓰는 대신 보호 규칙이 함께 걸려요 — 서버 자신의 관리 서비스와 데이터센터 내부망으로는 나갈 수 없고, 다른 노드의 같은 팟·DNS·인터넷만 열려요. 팟 안 프로세스끼리의 localhost 통신은 정상이에요.
  • 요금은 GPU 요금에 더해 GPU 1장·시간당 ₩500 이 팟이 켜져 있는 시간만큼 붙어요(요금표 「부가 기능」).
코딩 에이전트한테 이렇게 말하세요

“전용 서버 두 대에 각각 B300 8장 노드 간 고속 연결 팟 만들고 torchrun 2노드로 학습 돌려줘”

접속

빠른 점검(예: nvidia-smi 확인, 로그 보기)은 명령 1개를 실행하고 결과를 돌려받는 단발 실행으로 — 에이전트한테 시키면 돼요.

코딩 에이전트한테 이렇게 말하세요

“그 서버에서 nvidia-smi 한 번 실행해서 GPU 상태 보여줘”

“학습 로그 마지막 50줄 보여줘”

직접 셸이 필요하면 onpod ssh &lt;이름&gt; — 시간 제한 없는 진짜 인터랙티브 셸이라 vim·top·긴 작업이 그대로 돼요. 표준 ssh·scp·rsync·VS Code Remote-SSH를 쓰려면 onpod ssh-config &lt;이름&gt; --write로 ~/.ssh/config 항목을 한 번 만들면 ssh 이름.onpod으로 연결돼요. (공개 IP·열린 포트 없이 인증된 WebSocket 릴레이로 동작해요.) 아무것도 입력하지 않고 오래 둬도 세션이 자동으로 유지돼요 — 릴레이가 주기적으로 keepalive를 보내요.

파일만 옮기려면 onpod cp — 팟→로컬·로컬→팟·팟→팟을 한 줄로 옮기고, 전송 뒤 양쪽 sha256을 대조해요(다르면 실패로 알려줘요). ~/.ssh/config를 건드리지 않아 부작용이 없어요. onpod cp 내팟:/workspace/out.tgz .

브라우저에서 터미널·노트북을 쓰고 싶으면 이미지에 Jupyter·code-server를 넣고 그 포트를 공개하면 https://{이름}.onpod.ai 에서 쓸 수 있어요 (이것도 에이전트가 설정해줘요).

연동 서비스에서 배포한 앱

BizCoder·웍스AI Desk 같은 연동 서비스로 올린 앱은 그 서비스가 대신 관리하는 계정에 있어요. 그래도 같은 이메일로 이 콘솔에 로그인(웍스AI 로그인·구글·이메일 인증)하면 「서버」 화면 위쪽 「연동 서비스에서 배포한 앱」에서 상태·주소· 마지막 로그를 보고 다시 시작할 수 있어요. 코드 수정·환경변수·삭제는 배포한 서비스에서 하면 돼요 — 여기서 바꾸면 다음 배포가 덮어써요.

저장 공간 붙이기

  • 팟 디스크 — 항상 포함됨. 팟 삭제 시 비워져요.
  • 데이터 디스크 — 팟 꺼도 그대로. /workspace에 마운트.
  • 공유 디스크 — 여러 팟이 같이 씀.

자세한 비교는 저장 공간 3가지 도움말 참고.

요금제 (SKU)

  • 시간 단위 — 가장 기본. 켠 시간만큼만 결제, 내가 끄기 전까진 회수되지 않아요.
  • 장기 예약 — 1시간~1년 미리 예약하면 단가 ↓. 약정 기간 안엔 회수 없음.
  • 할인 (남는 GPU) — 가장 저렴. 정가 사용자 들어오면 1분 안내 후 회수.

정지 vs 삭제

  • 정지 — GPU 시간 과금 멈춤. 디스크는 보관료(GB·월)만. 다시 켜면 그대로.
  • 삭제 — 모든 데이터 폐기. 데이터 디스크·공유 디스크에 옮긴 파일만 남아요.

체크포인트 자동 백업

서버 만들 때 토글 켜면, 60초마다 지정 폴더가 백업 저장소로 자동 복사돼요. 자세한 건 체크포인트 자동 백업 도움말.