Researcher, Frontier Risk Mitigations

담당업무

• 신흥 AI 안전 위험 식별 및 위험 완화 방법론 연구

• 프론티어 AI 시스템의 위험 수준을 평가하는 평가 체계 구축 및 지속 개선

• AI 시스템을 더 안전하고 정렬되며 견고하게 만들기 위한 연구 방향과 전략 수립

• AI 안전 관련 모범 사례 가이드라인 개발

• 안전 시스템의 엔드투엔드 견고성을 검증하는 레드팀 파이프라인 설계 및 평가

• 해석가능성, 견고성, 정렬, 제어 등 다양한 기술을 활용한 안전 완화책 개발

• 오정렬, 사이버보안, 생물학 등 분야 전문가와의 협업을 통한 종합 안전 체계 개발

자격요건

• AI 안전 분야 2년 이상 경험

• 연구 엔지니어링 4년 이상 경험

• 컴퓨터과학, 머신러닝 또는 관련 분야의 Ph.D. 또는 기타 학위

• Python 또는 유사 프로그래밍 언어 숙련도

• 대규모 AI 시스템 환경에 대한 경험

• 장기적 AI 안전과 안전한 AGI 구축 방향에 대한 관심과 이해

• 해석가능성, 견고성, 정렬, 제어 방법론을 실제 모델에 적용할 수 있는 역량

• 부서 간 협업 및 기술적 깊이를 바탕으로 안전 완화책을 확장 가능하고 효과적으로 구현하는 역량

보상

연 $295K~$445K

근무환경

• 빠르게 진행되며 회사와 사회에 광범위한 영향을 미치는 연구 환경

• AI 안전 연구자 및 다양한 분야 전문가와의 긴밀한 협업

• 장기적 AI 안전과 인류에게 유익한 AGI 구축을 지향하는 업무 환경

마감기한

상시채용