Researcher, Safety Oversight

담당업무

• AI 모니터 모델 개발 및 개선

• AI 시스템의 오용 및 미스얼라인먼트 탐지·완화

• AI 안전성·정렬·강건성 향상을 위한 연구 방향 및 전략 수립

• 안전 시스템의 엔드투엔드 강건성 검토를 위한 레드팀 파이프라인 평가·설계

• 인간 가치 관련 질문에 대한 모델의 추론 능력 연구 및 실제 안전 과제 적용

• T&S, 법무, 정책 및 연구팀과 협업하여 제품의 안전 기준 충족

자격요건

• AI safety에 대한 관심과 최첨단 AI 모델의 안전성 향상에 대한 헌신

• RLHF, 인간-AI 협업, 공정성 및 편향 등 AI safety 분야 경험

• 대규모 AI 시스템 환경에서의 연구 경험

• Python 또는 유사 프로그래밍 언어 활용 능력

• AI safety 분야 4년 이상 경험

• Research engineering 경험 4년 이상

보상

• 보상 범위 $295K - $445K

지원방법

채용 페이지의 Apply for this Job을 통한 지원

마감기한

상시채용