Token Engineer

담당업무

• AI 도구와 모델 API의 토큰 사용량·비용·모델·지연 시간·오류·재시도 계측 파이프라인 설계 및 구현

• 사용량·비용 대시보드, 자동 알림, 이상 징후 탐지 시스템 구축

• AI 게이트웨이와 중앙 제어 계층 설계 및 운영

• 인증·권한·사용 한도·예산·속도 제한·모델 라우팅·캐시·재시도·감사 로그 관리

• 성공한 작업당 비용, 지연 시간, 실패율, 재시도율 등 효율 지표 설계

• AWS·Kubernetes 기반 확장 가능한 서비스 구축

• Infrastructure as Code, 비밀정보 관리, 역할 기반 접근 제어, 데이터 보존 정책 적용

• 서비스 수준 목표·운영 절차·장애 대응 체계 정의

• 셀프서비스 도구와 문서 제공 및 반복 업무 자동화

• 모델·제공자의 품질·비용·지연 시간·안정성 비교와 라우팅 최적화

자격요건

• 인프라·플랫폼·백엔드·엔지니어링 분야 5년 이상 또는 이에 준하는 프로덕션 구축·운영 경험

• AWS와 Kubernetes 기반 서비스 구축·운영 경험

• Terraform 등 Infrastructure as Code 도구 활용 경험

• Python 또는 Go 기반 프로덕션 서비스 개발 역량

• 로그·메트릭·분산 추적 등 관측성 데이터 설계 및 장애 원인 분석 경험

• API 게이트웨이·프록시·네트워크·인증·권한 관리 중 하나 이상에 대한 전문성

• 사용량 계측·과금·할당량·비용 배분·대규모 이벤트 처리 시스템 경험

• 보안·안정성·비용·개발자 경험 간 상충 관계를 고려한 설계 역량

• 요구사항 정의부터 설계·배포·운영까지 주도한 경험

• 엔지니어와 비전문가에게 기술 내용을 설명하고 조직 간 합의를 이끌어내는 역량

• 자동화와 시스템 개선으로 반복 문제를 해결하는 성향

우대사항

• 대규모 언어 모델 API·AI 게이트웨이·모델 서빙·AI 코딩 도구 내부 플랫폼 구축 경험

• OpenTelemetry·Prometheus·Grafana·Loki·Tempo 기반 관측성 플랫폼 운영 경험

• FinOps·비용 귀속·내부 정산 체계 경험

• 사용량 계측·구독·과금·할당량·속도 제한·정책 엔진 구현 경험

• OIDC·SSO·SCIM·역할 기반 접근 제어·비밀정보 관리·감사 로그 등 엔터프라이즈 보안 경험

• 시계열 이상 징후 탐지·비용 예측·용량 계획 적용 경험

• 다중 모델 제공자 라우팅 또는 장애 우회 경로 설계 경험

• 개발자 플랫폼·셀프서비스 인프라 구축 경험

복리후생

• 하이브리드 근무

• 최신 맥북 및 재택근무 장비 지원

• 연 140만원 상당 자기개발비

• 영어 교육 프로그램 및 글로벌 버디 프로그램

• 야간·주말 출퇴근 택시비 지원

• 연 720만원 상당 법인카드

• 식비 지원 및 사무실 스낵바

• 오후 7시 이후 저녁 식대

• 본인 및 가족 1인 건강검진

• 단체보험 및 독감 예방접종비 지원

• 연말 2주 유급 Holiday Break

근무환경

• 글로벌 팀과의 협업

• 자율성과 협업을 갖춘 하이브리드 근무

접수방법

• 채용 관련 지원은 Apply for this Job을 통해 진행

마감기한

상시채용