마이크로소프트 “윈도11 AI 에이전트, 악성코드 설치 가능성” 경고

사용자 개인 폴더에 접근할 수 있는 AI 에이전트 기능이 곧 윈도11에 도입될 예정이다. 그러나 이 기능에 보안 리스크가 존재한다는 이유로 마이크로소프트가 사전에 경고를 한 게 밝혀졌다.

AI 에이전트는 브라우저나 앱 등을 스스로 실행하고 횡단적으로 조작하는 등 보다 고도화된 처리를 수행할 수 있는 AI 도구다. 사용자가 요청하면 브라우저를 열어 항공사 사이트에 접속하고 항공권을 예약하는 단계까지 실행할 수 있는 AI 에이전트가 다수 등장하고 있으며 윈도에도 일부 AI 에이전트가 통합되어 있다.

마이크로소프트에 따르면 새롭게 에이전트 워크스페이스(Agent Workspace)라 불리는 AI 에이전트를 위한 도구가 윈도11에 도입될 예정이라고 한다. 에이전트 워크스페이스를 활성화하면 AI 에이전트는 데스크톱이나 음악 폴더 등 사용자 개인 폴더에 접근할 수 있게 된다.

에이전트 워크스페이스는 이미 윈도 인사이더 대상으로 개발자 프리뷰 형태로 제공되고 있다. 하지만 이 기능을 활성화하려고 하면 아직 시험 단계이며 성능 및 보안에 영향을 미칠 가능성이 있다는 경고문이 표시되는 것으로 확인됐다.

마이크로소프트가 공개한 문서에 따르면 AI 에이전트는 강력한 기능을 갖추고 있는 한편 환각(hallucination)으로 인해 사용자가 의도하지 않은 동작을 일으키는 결함이 존재하며 악의적인 인물이 프롬프트에 몰래 부적절한 명령을 삽입하는 공격 기법도 확인되고 있어 예기치 않은 보안 리스크를 초래할 가능성이 있다고 한다. 에이전트 워크스페이스를 사용할 경우 데이터 유출이나 악성코드 설치 같은 의도치 않은 행동이 발생할 수 있다고 지적된다.

이 같은 리스크를 회피하기 위해 마이크로소프트는 몇 가지 대책을 시행하고 있다. 예를 들어 에이전트 워크스페이스를 통해 파일에 접근하는 AI 에이전트는 사용자 개인 계정과는 별도 전용 계정을 사용해 동작하며 완전한 로그를 기록해 가시성을 높이고 있다고 한다. 이 계정은 사용자 프로필 디렉터리(C:Usersusername)에 대한 접근이 제한되며 문서·다운로드·데스크톱·비디오·사진·음악 등 특정 폴더에만 읽기 및 쓰기 권한이 부여된다.

그럼에도 아직 시험 단계로 개선이 필요하다고 판단한 마이크로소프트는 보안적 영향에 대해 이해하고 있는 경우에만 에이전트 워크스페이스를 활성화할 걸 권장한다고 경고하며 기본값은 비활성화 상태라고 안내했다. 관련 내용은 이곳에서 확인할 수 있다.