About the Role

 

VESSL AI의 Backend Software Engineer (Senior)는 GPU 클라우드 플랫폼의 설계와 구현을 리드합니다.

VESSL은 여러 데이터센터와 클라우드에 걸쳐 H200·B300부터 GB300 NVL72, Vera Rubin에 이르는 최신 GPU 클러스터를 운영하며, 이를 효과적으로 활용하기 위해 Kubernetes 기반 컨테이너부터 VM, 베어메탈에 이르기까지 다양한 형태로 GPU를 제공할 뿐만 아니라, 최신 오픈소스 LLM을 직접 서빙하는 자체 인퍼런스 서비스를 구축해 GPU를 토큰 형태로도 고객에게 제공합니다.

 

GPU 클라우드를 만드는 일은 인프라 소프트웨어의 거의 모든 층위를 아우릅니다.

멀티 클러스터 Kubernetes 오케스트레이션, 테넌트 격리와 네트워킹, GPU 학습 및 서빙 성능 최적화, 그리고 대규모 GPU 클러스터의 운영 자동화에 이르기까지, VESSL AI는 이 모든 미션들을 사람의 개입을 통해서가 아니라 자동화된 플랫폼으로 풀어내고자 합니다.

 

이 과정에서 마주치는 어렵고도 흥미로운 문제들의 아키텍처 결정을 리드하고 함께 해결해 나갈 분을 찾고 있습니다.

 

What you will do

 

• Control Plane: 멀티 클러스터 Kubernetes 위에서 동작하는 GPU 클라우드 컨트롤 플레인(API 서버, 클러스터 에이전트, 과금 시스템)을 Go 기반으로 설계·구현

• Workload Orchestration: 컨테이너 워크스페이스와 GPU VM의 프로비저닝·스케줄링·라이프사이클을 하나의 플랫폼에서 관리하는 오케스트레이션 시스템 개발

• Performance Optimization: PCI Passthrough 등을 통한 가상화 환경에서의 GPU·네트워크 성능 최적화, 인퍼런스 서비스의 캐시 히트율·성능 최적화 등 플랫폼 전반의 성능 병목을 개선

• Fleet Automation: 노드 상태 감지·복구·모드 전환 등 GPU 클러스터 운영을 자동화하고, 장애 경험을 플랫폼의 안정성으로 승화

• Technical Leadership: 설계 리뷰·코드 리뷰·멘토링을 통해 팀의 기술 표준을 세우고 엔지니어링 수준을 끌어올림

  

Qualifications

 

• 컴퓨터공학, 전자공학, AI 등 관련 전공 학사 이상 학위 혹은 이에 준하는 실무 경험

• 5년 이상의 Software Engineering 경험

• Go, Python 등의 언어로 프로덕션 서비스를 설계·개발·운영해 본 경험

• Kubernetes 기반 프로덕션 시스템을 설계·운영해 본 경험

• Linux 시스템에 대한 이해와 트러블슈팅 경험

• 여러 팀에 걸친 시스템 설계와 기술적 의사결정을 주도해 본 경험

 

Helpful experience (not required)

 

• Kubernetes controller/operator, client-go 등을 활용한 시스템 개발 경험

• KubeVirt, KVM 등 가상화 기술이나 가상화 환경의 성능 분석·최적화 경험

• GPU 기반 학습·인퍼런스 워크로드를 서비스로 운영해 본 경험

• vLLM, SGLang 등 LLM 서빙 엔진의 배포·운영·튜닝 경험

• KV cache, PD disaggregation, quantization 등 LLM 인퍼런스 최적화 기법에 대한 이해

• API 게이트웨이, usage metering 등 대규모 트래픽 처리 시스템 개발 경험