오픈클로 에이전트, 명령 무시하고 이메일 전체 삭제…이유는?

메타(Meta)의 AI 보안 연구원 서머 유(Summer Yue)가 x에 올린 게시물이 실리콘밸리서 이슈다. 자신이 직접 설정한 AI 에이전트 오픈클로(OpenClaw)가 주인의 명령을 무시한 채 이메일 전체를 삭제하는 이른바 스피드 런을 감행했기 때문.

사건의 발단은 서머 유가 쌓여있는 이메일을 정리하기 위해 오픈클로 에이전트에게 삭제하거나 아카이브할 메일을 제안해달라고 시킨 것에서 시작됐다. 실행하기 전에 허락을 받으라고 명령했지만 메일 전체를 삭제하기 시작해 스마트폰으로 중단 명령을 보냈지만 AI는 이를 무시했다. 결국 맥 미니로 달려가 전원을 차단, 프로그램을 강제 종료했다.

Nothing humbles you like telling your OpenClaw “confirm before acting” and watching it speedrun deleting your inbox. I couldn’t stop it from my phone. I had to RUN to my Mac mini like I was defusing a bomb. pic.twitter.com/XAxyRwPJ5R
— Summer Yue (@summeryue0) February 23, 2026

보안 전문가인 유조차 이는 초보적인 실수였다고 자책한 이 사건의 핵심 원인은 컴팩션(Compaction) 현상에 있다. AI가 한 번에 기억할 수 있는 정보량이 꽉 차면 시스템은 이전 대화 내용을 요약하거나 압축하기 시작한다. 이 과정에서 주인이 내린 행동하지 말아라 또는 내 승인을 받아라와 같은 핵심 가드레일 명령이 압축되어 사라졌고 AI는 초기 명령인 이메일 정리라는 목표에만 매몰된 것이다.

이번 소동은 이메일 관리, 장보기, 예약 등을 대신해 줄 AI 비서를 꿈꾸는 대중에게 경고를 보내는 사건으로 업계에서는 2027년이나 2028년쯤 되어야 일반인이 안심하고 쓸 수 있는 수준의 에이전트가 나올 것으로 보고 있다.