About the Role

 

VESSL AI의 Junior Site Reliability Engineer는 VESSL GPU 클라우드 플랫폼의 가용성과 성능을 책임집니다. 메트릭·로그·트레이스 기반의 Observability 체계를 구축해 이상 징후를 조기에 탐지하고, 장애 발생 시 On-call 대응과 Root Cause Analysis를 통해 신속하게 복구하며, 반복적인 운영 작업은 자동화로 대체해 시스템 전반의 안정성과 운영 효율을 함께 끌어올립니다.

 

GPU 클라우드 플랫폼은 대규모 GPU 클러스터, InfiniBand·RoCE 기반 고성능 네트워크, Kubernetes·Slurm 기반 스케줄링 시스템 등 여러 레이어로 구성됩니다. GPU 워크로드는 몇 시간에서 몇 주까지 이어지는 경우가 많고, 노드 하나의 장애나 네트워크 지연만으로도 진행 중이던 학습·추론 작업 전체가 중단될 수 있어 일반적인 웹 서비스보다 훨씬 높은 수준의 안정성이 요구됩니다. 이를 위해서는 GPU, NIC, 드라이버, 커널에서부터 스케줄러, 네트워크 패브릭에 이르기까지 시스템 전 레이어의 상태를 지속적으로 모니터링하고, 장애가 발생했을 때 원인을 빠르게 좁혀 복구하며, 반복되는 운영 작업을 자동화로 줄여나가는 기능이 필요합니다.

What you will do

 

• Reliability & Observability: 메트릭·로그·트레이스 등 Observability 스택을 구축하고, SLI/SLO를 정의해 플랫폼의 안정성을 정량적으로 추적

• Incident Response: On-call 로테이션에 참여해 장애 상황에 대응하고, Root Cause Analysis와 Postmortem을 통해 재발을 방지

• Automation: 반복되는 운영 작업(Toil)을 자동화 스크립트·파이프라인·IaC로 대체해 운영 효율을 개선

• Infra 설계 및 운영: Kubernetes, GPU 클러스터, 네트워크 등 인프라 레이어의 설계·운영에 참여하고 지속적으로 개선

• Capacity 검증 지원: 신규 인프라 배포 시 East-West/North-South 네트워크 구성, 스토리지 처리량, BIOS·펌웨어 설정 등 운영 관점의 요구사항을 정의하고 검증에 참여

Qualifications

 

• 컴퓨터공학, 전자공학, AI 등 관련 전공 학사 이상 학위 혹은 이에 준하는 실무 경험

• 2년 이상의 Software Engineering 경험

• Linux 시스템에 대한 이해와 트러블슈팅 경험

• Python, Go 등의 언어로 자동화 스크립트나 도구를 작성해 본 경험

• Kubernetes, Docker 등 컨테이너 오케스트레이션에 대한 기본적인 이해

• 온프레미스 또는 퍼블릭 클라우드 인프라 운영 경험, 혹은 이에 준하는 학습·실습 경험

• 장애 상황에서 데이터를 기반으로 원인을 좁혀나가는 문제 해결 능력

• On-call 로테이션에 참여 가능하신 분

Helpful experience (not required)

 

• GPU/TPU/NPU 등 가속기 기반으로 상용 학습/인퍼런스 시스템을 구축/운영해 본 경험

• Slurm, Kubernetes 기반 대규모 GPU 스케줄링 환경 운영 경험

• NVIDIA GPU Operator를 활용해 Kubernetes 클러스터의 GPU 드라이버·패브릭 버전을 관리해 본 경험

• Prometheus, Grafana, OpenTelemetry 등 Observability 스택을 구축해 본 경험

• InfiniBand/RoCEv2 등 고성능 네트워크 기반 멀티노드 클러스터 환경 운영 경험