AI Infrastructure Operations Engineer 채용

담당업무

• On-Premise AI Infrastructure 운영

• 사내 GPU 서버(H200, B300, DGX Spark 등) 운영 및 리소스 스케줄링

• LLM·Embedding·Reranker 모델 GPU 배치 및 서빙 파이프라인 관리

• 서빙 성능(TTFT, throughput, latency), 가용성, SLA 모니터링 및 튜닝

• GPU utilization 최적화와 신규 모델·서비스 도입을 위한 인프라 확장

• GPU 인프라 장애 대응(On-call) 및 RCA 수립

• GPU 리소스 사용량 분석 기반 Capacity Planning 및 비용 최적화

• RAG·Knowledge Graph 서버 운영과 안정성·품질 관리

• AI Chat·AI Search SLA 관리 및 사용성 개선

• Retrieval 품질·Agent 응답 품질 모니터링 및 개선

• GPU 인프라와 AI 서비스 활용도 확장 아이디어 발굴 및 실행

• AI 서비스 CI/CD 구축, 무중단 배포 및 롤백 프로세스 운영

• GPU·서비스 모니터링 대시보드와 Alerting 체계 구축·고도화

• 운영 매뉴얼(Runbook) 작성 및 신규 서비스 온보딩 지원

자격요건

• 전문적인 Python 개발 역량

• Linux 및 Docker 컨테이너 환경 실무 경험

• LLM·RAG·Agent 중 하나 이상의 실제 서비스 구축 또는 운영 경험

우대사항

• vLLM, SGLang, TensorRT-LLM, TGI, Ollama 등 On-prem LLM serving framework 경험

• CUDA, cuDNN, NCCL, MIG, NVLink 등 NVIDIA GPU stack 이해

• GPTQ, AWQ, FP8, speculative decoding, KV-cache 관리 경험

• Multi-GPU 분산 서빙 및 리소스 스케줄링 경험

• Milvus, Qdrant, Weaviate, pgvector 또는 Neo4j 운영 경험

• hybrid search, reranker, query rewriting을 통한 Retrieval 품질 개선 경험

• LangSmith, Phoenix, Ragas, DeepEval 등 LLM observability·evaluation 경험

• 반도체, OS, Storage, SSD 도메인 이해 또는 관심

• 도메인 전문가와의 협업 및 요구사항의 시스템 전환 경험

• Git, Jira, Confluence 등 협업 도구 사용 능력

• 영문 기술 specification·논문 독해 및 프레젠테이션 자료 작성·발표 능력

• 재사용 가능하고 유지보수 가능한 품질 코드 작성 경험

• 분석·문제 해결 능력과 팀 협업·커뮤니케이션 역량

• Open source 프로젝트 기여 경험

• 장애인 및 국가유공자 등 취업보호대상자 우대

전형절차

1. 서류 전형

2. 코딩테스트

3. 면접 전형

4. 최종 합격

접수방법

• 본사 홈페이지 지원

마감기한

채용시 마감