x

이메일로 만나보는 스타트업 가이드

투자, 행사, 정부사업 등 스타트업 생태계 소식을 이메일로 편하게 받아보세요.

오픈AI에서 로보틱스(Robotics) 팀을 이끌어온 케이틀린 칼리노우스키(Caitlin Kalinowski)가 퇴사를 발표했다. 오픈AI가 미국 국방부와 AI 활용 계약에 합의한 게 퇴사 이유라고 밝혔다.

칼리노우스키는 비즈니스 소셜 미디어 링크드인과 엑스에 오픈AI를 떠났다고 밝혔다. 그가 게재한 메시지를 보면 AI가 국가 안보에서 중요한 역할을 한다는 데는 동의하지만 사법적 감독 없이 미국인을 감시하는 것, 인간 허가 없이 치명적인 자율성을 가진 시스템을 운용하는 건 보다 신중한 논의가 필요한 문제라며 이는 사람이 아니라 원칙의 문제라고 말했다.

이후 칼리노우스키는 자신의 결정에 대해 명확히 하자면 가드레일이 정의되지 않은 채 발표가 서둘러 이뤄졌다는 점이 문제라며 이는 거버넌스에 관한 우려이며 거래와 발표를 위해 서두르기에는 너무 중요한 문제라고 부연 설명했다.

 

칼리노우스키는 메타에서 증강현실(AR) 글라스 개발 팀을 이끈 뒤 지난 2024년 11월 오픈AI에 합류했다. 오픈AI 측은 미국 국방부와의 합의는 AI를 책임 있는 국가 안보에 활용하기 위한 실행 가능한 경로를 구축하는 동시에 국내 감시와 자율형 무기 금지라는 자사 레드라인을 명확히 하기 위한 것이라고 믿는다면서 이런 문제에 대해 강한 의견이 있다는 걸 인식하고 있으며 직원·정부·시민사회, 전 세계 커뮤니티와 계속해서 논의를 이어가겠다는 성명을 내고 칼리노우스키 퇴사를 인정했다.

칼리노우스키의 퇴사 원인이 된 오픈AI와 미국 국방부 간 합의는 지난 3월 초 발표된 것이다. 이번 합의는 오픈AI 경쟁사인 앤트로픽(Anthropic)이 미국 국방부와의 협력에서 자사 AI를 대규모 국내 감시나 완전 자율형 무기에 사용하는 걸 제한했던 데서 비롯됐다. 피트 헤그세스(Pete Hegseth) 국방장관은 앤트로픽 측 제한 조건을 거부하며 제한 철폐 또는 관계 단절을 요구했고 앤트로픽은 최종적으로 이를 거절했다. 이로 인해 앤트로픽은 미국 국방부로부터 국가 안보에 대한 공급망 리스크로 지정됐다. 관련 내용은 이곳에서 확인할 수 있다.

뉴스 레터 구독하기

Related Posts

No Content Available
Next Post