[AI Research Div.] ML Serving Engineer (5년 이상)

담당업무

• 프로덕션 수준의 대규모 모델 서빙 아키텍처 설계 및 운영

• 인게임 환경에 실시간 적용되는 LLM 서빙 인프라 구축 및 운영 안정화

• GLM 코딩 에이전트 서비스 서빙 및 가속화

• 다양한 최신 딥러닝 모델을 위한 공통 서빙 체계 수립

• 인프라 관측성 및 CI/CD 파이프라인 구축

• 통합 모니터링·로깅·알람 시스템 구축

• 무중단 모델 업데이트, 자동 롤백 및 테스트 자동화를 위한 CI/CD·GitOps 체계 설계

• TurboQuant, CacheBlend, FP8/INT4 양자화 등 추론 가속화 및 서빙 최적화 기술 연구·적용

• KV Cache의 GPU·CPU·Disk 간 오프로딩·로딩 및 공유 캐싱 체계 고도화

• 동적 배치와 PagedAttention 등 최신 LLM 서빙 최적화 기법 고도화

자격요건

• 대규모 트래픽 프로덕션 환경의 AI·LLM 모델 서빙 시스템 설계·구축·운영 경험

• vLLM, TensorRT-LLM 등 고성능 LLM 추론 엔진 실무 적용 및 최적화 경험

• KV Cache 오프로딩·로딩, PagedAttention, 양자화 등 메모리·연산 효율화 기법 적용 경험

• 추론 엔진, 프레임워크, GPU 하드웨어 관점의 장애·지연시간 원인 분석 및 개선 경험

• 모니터링·관측성 체계와 배포 자동화 CI/CD 환경 구축·고도화 경험

• 해외 출장에 결격 사유가 없는 분

우대사항

• 아키텍처 수준의 기술 의사결정 및 비용·지연시간·안정성 Trade-off 분석 역량

• vLLM, LMCache 등 최신 오픈소스 서빙 프레임워크 Contributor 또는 오픈소스 생태계 기여 경험

• vLLM, TensorRT-LLM, PyTorch Dynamo, FlashInfer, NVIDIA Triton 등 고성능 LLM 추론 스택에 대한 깊은 이해

• Custom Kernel 개발 및 CUDA 하위 레벨 가속 경험

전형절차

1. 서류 전형

2. 과제 전형

3. 인성검사(Personality Assessment)

4. 직무면접(Technical Fit Interview)

5. 종합면접 2~3회(Culture Fit Interview)

6. 합격 및 입사

7. 포지션과 후보자에 따라 인터뷰 또는 직무 테스트 추가 가능

8. 전형 일정 및 결과는 지원서에 등록한 이메일 또는 유선으로 개별 안내

접수방법

• 입사지원서 자유 양식

• 자기소개서

• 경력기술서

• 성적증명서

• 포트폴리오 필수

• 신입은 자기소개서 중심 작성

• 경력자는 경력기술서 중심 작성

• 포트폴리오 첨부 시 하단 안내 사항 확인

근무환경

• 수평적이고 활발한 커뮤니케이션

• 직급과 연차를 넘어 자유롭게 의견을 제시하는 문화

• 다양한 직군과의 협업을 통한 기술과 서비스의 접점 형성

마감기한

상시채용