Senior Lead Software Engineer- Inference platform engineer

담당업무

• AI/ML 워크로드에 최적화된 안전하고 확장 가능한 클라우드 플랫폼 설계·배포

• AI 팀과 협업하여 컴퓨팅 요구사항을 인프라 요건으로 전환

• 클라우드 리소스의 성능·비용 모니터링 및 최적화

• ML 배포·운영을 위한 CI/CD, 자동화, Infrastructure as Code 구축

• Kubernetes 클러스터 및 Docker 기반 컨테이너 운영과 프로덕션 장애 대응

• 보안성·확장성·운영 안정성을 고려한 프로덕션 코드 개발, 코드 리뷰 및 디버깅

• LLM 추론 플랫폼 구축 및 확장, vLLM과 GPU·CPU 서빙 최적화

• AI 보조 개발 도구의 코드 리뷰·테스트 가속·근본 원인 분석 적용과 검증 기준 수립

• SDLC/TLM 도구 체계 내 자동화 패턴 재사용 및 AI 보조 엔지니어링 활용 확산

자격요건

• 소프트웨어 엔지니어링 관련 정규 교육 또는 자격 인증

• 시스템 설계, 애플리케이션 개발, 테스트 및 운영 안정성 경험

• Kubernetes와 Docker를 활용한 클러스터 운영 및 프로덕션 트러블슈팅 경험

• Python, Go, Java, C# 등 하나 이상의 프로그래밍 언어 활용 능력

• IaaS, PaaS, SaaS 및 퍼블릭·프라이빗·하이브리드 클라우드 모델 이해

• 머신러닝, Transformer 아키텍처, ML 학습 및 추론에 대한 기초 이해

• 마이크로서비스, 스토리지, 보안, 라우팅·스위칭을 포함한 클라우드 아키텍처 이해

• Infrastructure as Code 경험

• AI 보조 소프트웨어 개발 도구의 안전성·성능·정확성 검증 역량

• 책임 있는 AI 활용, 데이터 민감도 및 입력·출력 보안 처리에 대한 이해

우대사항

• NVIDIA GPU 인프라 소프트웨어 DCGM, BCM, Dynamo Inference 이해

• Prometheus, Grafana 등 관측성 도구 활용 능력

• ML Ops 및 MLflow 등 관련 도구 경험

• vLLM 기반 고성능 LLM 추론 플랫폼 구축·확장 경험

• GPU·CPU 서빙 최적화 및 저지연·고처리량 모델 서빙 경험

보상과 복리후생

• 기본 연봉 $175,750.00-$260,000.00

• 직무·경력·역할·지역에 따른 총보상

• 성과에 따른 인센티브 또는 현금·지분 형태의 보상

• 건강관리 지원

• 퇴직저축제도

• 백업 보육

• 학비 지원

• 정신건강 지원

• 재무 코칭

근무환경

• 애자일 팀 협업

• 엔지니어, 계약직 인력 및 벤더와의 협업

• 다양성·기회·포용·존중을 중시하는 조직 문화

• AI 보조 엔지니어링 도구의 책임 있는 활용과 표준화

마감기한

상시채용