Frontier AI Risks Lead

담당업무

• 프론티어 AI의 신흥 위험 매핑 및 우선순위 설정

• AI 오용·남용 위험에 대한 외부 신호·동향 탐색과 경쟁사 벤치마킹

• AI 위해 분류 체계와 0~24개월 이후 전망 프레임워크 설계·관리

• 위험 레지스터와 심각도·유병률·노출도·추세 기반 우선순위 체계 구축

• 국가 행위자 오용부터 범죄 활동까지 새로운 남용 패턴 탐지 및 심층 분석

• 사건을 행위자·인센티브·제품 설계 취약점·제품 간 확산을 포함한 시스템 수준의 위험 이야기로 연결

• 우선순위가 지정된 위험 목록과 제품·안전·정책팀이 실행할 완화 방안 제안

• 완화 조치의 핵심 지표 추적, 가정 검증 및 데이터 기반 개선 촉진

• AI 안전 환경의 선행지표·모니터링 지표 정의 및 데이터 과학·시각화 팀과 대시보드 개발

• 자체 AI 기술을 활용한 탐지 확장과 업무 프로세스 개선

• 전략적 인텔리전스 추정 보고서와 6~24개월 시나리오 분석 작성

• 프론티어 AI 위험 관련 테이블톱 연습 설계·운영

• OpenAI의 위험 프로파일과 외부 사건·타 플랫폼의 완화 조치 비교

• 제품 준비도 및 출시 검토에서 예상되는 오용 방식과 실무 지침 제시

• 위험 프레임워크, 플레이북, FAQ, 브리핑 자료 개발

자격요건

• AI 안전, AI 연구, 신뢰·안전, 정책 분석 또는 프론티어 AI 위험 관련 정보 업무 경험

• 모델 정렬 불일치, 재귀적 자기개선, 다중 에이전트 상호작용, 통제 상실, 폭주 에이전트 등 AI 안전 개념 이해

• 신흥 기술과 온라인 위해를 분석하고 우선순위가 지정된 권고안으로 전환하는 능력

• 사례 업무, 사건 보고서, OSINT, 제품 맥락, 정책 프레임워크를 포함한 정성·정량 자료 분석 역량

• 위해 분류 체계, 심각도·가능성 매트릭스, 우선순위 모델 등 위험 프레임워크 설계·활용 경험

• 호라이즌 스캐닝, 시나리오 계획, 테이블톱 연습 또는 시뮬레이션 등 미래예측 방법론 이해

• 제품, 엔지니어링, 데이터 과학, 운영, 법무, 정책팀과의 협업 및 완화 조치 추진 역량

• 경영진용 브리프 작성과 복잡하고 민감한 이슈를 명확하게 설명하는 문서·구두 커뮤니케이션 능력

• 빠르게 변화하고 모호한 환경에서 약한 신호를 식별하고 가설을 검증·수정하는 능력

보상

• Compensation Range: $198K - $320K

접수방법

온라인 지원서 접수

마감기한

상시채용