ML Serving Engineer

우리는 게이머의 로망을 실현하기 위해, 누구도 가지 않는 길을 갑니다.
예상을 뛰어넘는 과감한 상상력과 기술로, 전 세계 팬들이 잊지 못할 세상을 만들기 위해 담대하게 도전하고 개척합니다.  

We pioneer the path to players' dreams.
With bold imagination and breakthrough technology, we create unforgettable worlds for fans across the globe.

우리 팀(프로젝트)을 소개합니다. 

[AI Research 본부 비전]

크래프톤 AI Research 본부는 사내외 여러 분야와 협업하여 다양한 문제에 대한 AI 솔루션을 제공하며, 자체 딥러닝 연구를 통해 우리만의 서비스를 개발합니다. 그 방향성은 크게 네 가지입니다.

• Production Cost Down : 게임 제작 공정에 딥러닝 기술을 적용하여 제작 효율을 높이고, 제작자들의 업무 경험을 혁신합니다.
• New Way to Create : 생성형 AI를 포함한 다양한 딥러닝 기술로 게임 창작의 방식을 확장합니다.
• Virtual Friends : 딥러닝 기반 Virtual Friend를 개발하여 게임 안팎의 새로운 사용자 경험을 만듭니다.
• Unique, Endless Gameplay : 딥러닝을 통해 유저에게 매번 새로운 경험을 제공하는 게임 콘텐츠를 구현합니다.

[Culture Fit]

AI Research 본부는 다양한 배경을 가진 구성원들이 함께 일하며, 수평적이고 활발한 커뮤니케이션 속에서 문제를 해결합니다.
직급과 연차를 넘어 자유롭게 의견을 제시할 수 있으며, 여러 직군과의 협업을 통해 기술과 서비스의 접점을 함께 만들어갑니다.

[팀 소개]

KRAFTON MLSys & Ops 팀은 연구된 고성능 AI 모델이 실제 게임 제작 및 대고객 서비스 환경에서 최적의 성능으로 안정되게 동작할 수 있도록 고성능·고효율의 ML 서빙 플랫폼을 만들어가고 있습니다.

이번 포지션은 크래프톤이 확보한 최신 초고성능 GPU 인프라 위에서, 게임에 적용되는 LLM, 코딩 에이전트 및 리서치 팀의 다양한 최첨단 딥러닝 모델들을 안정적이고 비용 효율적으로 서빙할 수 있는 아키텍처를 설계하고 직접 구현하는 서빙 엔지니어 역할입니다. 최신 LLM 추론 가속화 및 최적화 기법을 직접 연구·설계하고 실제 프로덕션 서비스에 이식할 동료를 찾습니다.

우리 팀과 함께할 미션을 소개합니다.

• 프로덕션 수준의 대규모 모델 서빙 아키텍처 설계 및 운영
  • 실제 인게임(In-game) 환경에 실시간으로 적용되는 LLM 서빙 인프라 구축 및 운영 안정화
  • GLM(Coding Agent)과 같이 높은 성능과 즉각적인 반응성이 필요한 코딩 에이전트 서비스 서빙 및 가속화
  • 리서치 본부 내에서 지속적으로 쏟아지는 다양한 도메인의 최신 모델들에 대한 공통 서빙 체계 수립
• 인프라 관측성(Observability) 및 CI/CD 파이프라인 구축
  • 대규모 서빙 환경에서 안정적인 서비스 운영을 모니터링하고 이슈를 실시간 탐지하기 위한 통합 모니터링/로깅/알람 시스템 구축
  • 무중단 모델 업데이트, 자동 롤백 및 테스트 자동화를 위한 견고한 CI/CD 및 GitOps 체계 설계
• 추론(Inference) 가속화 및 서빙 최적화 기술 연구 및 적용
  • 대규모 트래픽 하에서도 고성능을 유지하고 서빙 비용을 획기적으로 낮출 수 있는 최적화 방법론 리서치 및 프로덕션 적용 (e.g., TurboQuant, CacheBlend, FP8/INT4 양자화 등)
  • KV Cache 효율화(GPU-CPU-Disk 간 Offloading/Loading 및 공유 캐싱 체계), 동적 배치(Continuous Batching), PagedAttention 등 최신 LLM 서빙 최적화 기법 고도화

이런 경험을 가진 분과 함께 성장하고 싶습니다! (필수요건)

• 실제 대규모 트래픽이 발생하는 프로덕션 환경에서 AI/LLM 모델 서빙 시스템을 설계·구축·운영해본 경험이 있으신 분
• vLLM, TensorRT-LLM 등 고성능 LLM 추론 엔진을 실무에 적용하여 시스템 최적화 및 안정화 환경을 구현해본 경험이 있으신 분