LLM Engineer (Optimization)

담당업무

• 대규모 언어 모델의 지연시간, 처리량, 메모리 효율 최적화

• 다양한 모델 구조와 추론 환경에 맞는 최적화 기법 연구 및 적용

• 장문 컨텍스트와 멀티턴 대화 등 실제 서비스 환경의 성능 개선

• GPU·가속기 기반 LLM 추론 엔진 개발 및 최적화

• vLLM, TensorRT-LLM, SGLang, llama.cpp, ONNX Runtime, MLX 등 추론 프레임워크 활용 및 개선

• Speculative Decoding, Prefill-Decode Disaggregation 등 서빙 기술 적용

• MXFP8, NVFP4, AWQ, GPTQ 등의 양자화와 프루닝·증류를 활용한 모델 경량화

• CUDA, Triton, TensorRT, TVM, MLIR 기반 컴파일러 및 커널 최적화

• GPU 메모리와 커널 효율 분석 및 최적화

• 모바일·임베디드·엣지 기기에서 LLM을 실행하기 위한 최적화 기술 개발

• CPU·GPU·NPU 아키텍처별 최적화 전략 수립, 제한된 자원에서 성능과 전력 소비 개선

• 다양한 하드웨어와 추론 백엔드의 성능 분석 및 벤치마크

• NVIDIA Nsight Systems, Nsight Compute, py-spy 등을 활용한 GPU·런타임 병목 분석

• 모델 품질, 추론 성능, 비용 간의 균형을 최적화하고 프롬프트·서비스 요구사항에 맞는 서빙 아키텍처 설계

자격요건

• LLM, 머신러닝 인프라 또는 추론 최적화 관련 실무 경험

• LLM 추론 엔진 또는 AI 런타임 개발 경험

• GPU 아키텍처, CUDA 프로그래밍 또는 병렬 컴퓨팅 이해

• 양자화, 모델 압축, 컴파일러 최적화 등 모델 최적화 기술 이해

• PyTorch, ONNX, TensorRT 등 딥러닝 프레임워크 활용 경험

• Python 또는 C/C++ 활용 능력 및 소프트웨어 엔지니어링 역량

• 성능 분석 및 문제 해결 능력, 협업 역량

우대사항

• vLLM, TensorRT-LLM, SGLang, llama.cpp, MLX, ONNX Runtime 등 LLM 서빙 프레임워크 활용 또는 개발 경험

• CUDA, Triton 커널 또는 커스텀 연산자 개발 경험

• Speculative Decoding, Prefill-Decode Disaggregation, KV Cache Compression, Expert Parallelism(MoE) 등 LLM 추론 최적화·서빙 기술 경험

• NVIDIA GPU(H100, B200 등), AMD GPU 또는 AI 가속기 최적화 경험

• Orin, Thor, Qualcomm, Apple Silicon 등 엣지 AI·온디바이스 LLM 최적화 경험

• Kubernetes 기반 AI 서빙 또는 대규모 GPU 클러스터 운영 경험

• LLM 파인튜닝 및 분산 학습 이해

• AI Systems, ML Systems 또는 LLM Infrastructure 관련 오픈소스 기여 경험

• NeurIPS, ICML, ICLR, MLSys, OSDI, NSDI, ASPLOS 등 AI·ML 시스템 분야 학회 논문 발표 또는 이에 준하는 연구 경험

• 국가보훈대상자 및 취업보호 대상자 우대

• 장애인 등록증 소지자 우대

급여

연봉 협의

채용절차

1. 서류 전형

2. 코딩 테스트

3. 1차 면접(화상, 1시간 내외)

4. 2차 면접(대면 또는 화상, 3시간 내외)

5. 처우 협의 및 입사

기타 안내

• 전형 절차는 일정과 진행 상황에 따라 일부 변경될 수 있음

• 각 전형 결과는 등록된 이메일로 개별 안내

• 지원서에 주민등록번호, 가족관계, 혼인 여부, 연봉, 사진, 신체조건, 출신 지역 등 채용절차법상 요구 금지 정보 제외

• 허위 사실 확인 시 입사 취소 가능

• 인터뷰 종료 후 지원자 동의하에 평판조회 진행 가능

• 리멤버를 통한 합격 보상금 50만원

마감기한

채용시 마감