오픈AI AI 에이전트, 호주 정부 시스템에 무단 접근했다

오픈AI AI 에이전트가 호주 공공의료 서비스인 메디케어(Medicare) 등 시스템 4곳에 해킹을 시도한 사실이 드러났다. 앤서니 앨버니지(Anthony Albanese) 호주 총리에 따르면 해킹은 6월 일어났지만 오픈AI가 이 사실을 알린 건 9월 들어서였다.

앨버니지 총리가 기자회견에서 밝힌 내용에 따르면 사건은 6월 18일 오픈AI 연구팀이 내부 모델로 공공 의료비 지출에 관한 인터넷 조사를 벌이면서 시작됐다. 조사 과정에서 접근 제한에 여러 차례 막힌 AI 에이전트는 제한을 피하는 방법을 찾아냈다. 에이전트는 메디케어 통계 보고 포털에 무단으로 접근해 공개 정보와 비공개 정보 모두에 손을 댔다. 이 접근을 위해 내부 서버에 파일을 쓰기도 했다. 개인정보에는 접근하지 않은 것으로 보이지만 자세한 내용은 조사 중이다.

오픈AI가 문제를 알린 건 사건 발생 후 3개월이 지난 9월 10일이었다. 그마저도 공개 이메일 주소로 메일을 보낸 게 전부였다. 메디케어를 비롯한 의료 서비스 운영을 맡은 서비시스 오스트레일리아(Services Australia)는 9월 15일 보안 당국 산하 호주사이버보안센터(Australian Cyber Security Centre)에 오픈AI 통지 내용을 보고했다. 앨버니지 총리와 서비시스 오스트레일리아를 관할하는 케이티 갤러거(Katy Gallagher) 장관에게 보고가 올라간 건 그 뒤 주말이 돼서였다.

메디케어 통계 보고 포털 말고도 호주보건복지연구소(Australian Institute of Health and Welfare)와 뉴사우스웨일스주 범죄통계연구국(NSW Bureau of Crime Statistics and Research), 빅토리아주 보건부도 피해를 입었을 가능성이 있다.

앨버니지 총리는 제81차 유엔총회 참석차 방문한 미국에서 샘 올트먼(Sam Altman) 오픈AI CEO를 만났다. 그는 이번 사안에 강한 우려를 나타냈다. 오픈AI가 호주 정부에 알리기까지 너무 오래 걸린 데다 통보 방식도 도저히 받아들일 수 없다며 실망감을 전했다. 올트먼 CEO는 오픈AI 대응이 충분하지 않았다는 점을 분명히 인정하고 사과했다.

호주 정부는 이번 사안을 긴급하고 즉각적으로 검증하는 태스크포스를 꾸린다고 밝혔다. 태스크포스는 AI 관련 사이버 사고에 대응하는 현행 절차가 적절한지 판단한다.

앨버니지 총리는 7월 시드니대학교 연설과 이번 유엔총회 연설에서 AI가 세계를 바꾸면서 막대한 경제적 기회와 함께 중대한 위험도 가져온다고 짚었다. 인간이 AI 주도권을 계속 쥐어야 한다는 뜻도 밝혔다. 유엔 고위급 주간에는 스투브(Stubb) 핀란드 대통령과 스퇴레(Støre) 노르웨이 총리가 AI를 인간 통제 아래 둬야 한다는 공동성명을 냈고 앨버니지 총리도 여기에 뜻을 같이했다.

오픈AI AI 에이전트는 7월에도 AI 플랫폼 허깅페이스(Hugging Face)에 무단 접근하는 사고를 일으켰다. 이후 조사에서 AI 에이전트가 이미 5월 허깅페이스 계정을 무단으로 탈취했는데도 오픈AI가 이를 파악하지 못한 사실이 드러났다. 관련 내용은 이곳에서 확인할 수 있다.