국내 금융사도…자율형 AI 에이전트발 개인정보 유출 급증

국내 4대 시중은행 가운데 신한은행과 KB국민은행, 하나은행 3곳을 포함해 금융사 최소 7곳이 사이버 공격을 받아 6만8,000명 개인정보가 유출됐을 가능성이 제기됐다. 이재명 대통령은 공격에 AI 에이전트가 쓰인 정황이 있다며 무슨 일이 벌어졌는지 신속히 조사하라고 지시했다.

보도에 따르면 9월 30일 신한은행 대출 신청 서비스에 본인 확인을 우회한 무단 접속이 발생해 2만5,000명 개인정보가 빠져나갔다. 공격에는 미국과 일본, 독일 등 10개국 넘는 도메인이 동원됐다. 악용된 것으로 보이는 웹서버에서는 오픈소스 AI 침투 테스트 도구 아르텍스 AI(ARTEX AI)를 썼음을 시사하는 ARTEX-자율 침투 테스트 콘솔이라는 중국어 문자열이 발견됐다.

아르텍스는 중국 보안 엔지니어 리푸화(李普華)가 개발한 AI 에이전트로 네트워크 약점을 찾아내 보안을 강화하는 데 쓰는 도구다. 다만 오픈소스로 공개돼 있어 악의적인 공격자가 침입과 공격 목적으로 코드를 고쳐 악용했을 가능성이 있다.

이 대통령은 일부 해킹 사건에 AI가 쓰였을 가능성이 구체적으로 드러나면서 국민 사이에 우려와 불안이 크게 번지고 있다고 말했다. 그러면서 상황을 빠르고 명확하게 파악해 피해를 최소화할 수 있도록 인력과 자원을 집중하라고 지시했다.

지금까지 확인된 바로는 예가람저축은행 피해가 가장 컸다. 이름과 생년월일, 연락처 등을 담은 개인정보 4만명분이 유출됐다. 웰컴저축은행에서도 개인정보 2,299건 유출이 확인됐다. 이 밖에 KB국민은행과 하나은행, 부산에 본사를 둔 BNK금융그룹 계열 BNK부산은행, 현대자동차그룹 금융사 현대캐피탈 등에서도 개인정보 일부가 빠져나간 것으로 알려졌다.

◇ AI 도구 3종이 침투부터 유출까지 자율 수행=AI를 앞세운 공격은 해외에서도 빠르게 늘고 있다.

보안 기업 갬빗시큐리티(Gambit Security)가 한 공격자의 중계 서버를 확보해 조사한 결과 헤르메스(Hermes)와 스트릭스(Strix), 케언(Cairn)이라는 오픈소스 AI 도구 3종이 공격에 쓰인 것으로 나타났다. 이 도구들은 사람에게 공격 방법을 제안하는 데 그치지 않고 취약점 탐색부터 침입과 권한 확대, 기밀정보 탐색, 데이터 반출까지 공격 대부분을 스스로 진행했다.

세 도구는 역할이 각기 달랐다. 스트릭스는 표적 웹사이트를 살펴 침입에 쓸 만한 취약점을 찾는다. 케언은 관리자 권한을 얻거나 서버에서 코드를 실행할 수 있는 상태로 만들라는 목표를 받으면 여러 침입 방법을 시도하며 몇 시간씩 자율적으로 공격을 이어간다. 전체를 총괄하는 헤르메스는 공격 작업 시작과 다음 행동 판단, 침입 이후 작업 등을 관리했다.

헤르메스에는 공격용을 포함해 스킬 121종이 등록돼 있었다. 공격자 지시는 취약점 보고서를 읽고 시작하라거나 관리 화면에 들어가라, API를 더 조사하라는 식의 짧은 내용이 대부분이었다. 갬빗시큐리티에 따르면 세션 260개에서 사람이 입력한 프롬프트는 1,951건이었고 표적 하나에 준 지시는 몇 건에 불과했다. 사람이 명령을 일일이 입력하지 않았다는 뜻이다.

눈여겨볼 대목은 AI가 같은 공격을 기계적으로 반복하지 않았다는 점이다. 케언은 표적마다 웹사이트와 서버 상태를 살펴 그 자리에서 공격 경로를 짰다. 그래서 피해 기업마다 악용된 취약점과 침입 방식이 크게 달랐다.

실제로 확인된 한 공격에서 AI는 먼저 웹 앱 SQL 인젝션 취약점으로 데이터베이스에 접근했다. 그곳에 저장된 일회용 비밀번호를 읽어 다중 인증을 뚫었고 관리 화면에 침입한 뒤 파일 업로드 기능 결함을 이용해 서버에서 임의 코드를 실행할 수 있는 상태로 만들었다. AI 에이전트는 서버 내부를 더 뒤져 강한 권한을 얻은 뒤 내부 네트워크로 옮겨갔다. 다른 서버에서 워드프레스(WordPress) 인증 정보를 찾아내자 새 관리자 계정을 만들어 워드프레스에도 침입했고 클라우드 서비스에 저장된 비밀 정보와 데이터베이스 인증 정보까지 손에 넣었다. 최종적으로는 전자상거래 사이트 마젠토(Magento) 데이터베이스에 접근해 암호화된 신용카드 번호를 복호화할 수 있는 단계까지 나아갔다.

표적도 무작위로 고르지 않았다. 공격자는 웹사이트 방문 순위 서비스에서 쇼핑몰을 추린 뒤 대형 전자상거래 플랫폼을 쓰는 곳은 빼고 알려지지 않은 취약점이나 설정 결함이 있을 가능성이 큰 자체 개발 시스템 쇼핑몰을 집중적으로 골랐다. 한 사례에서는 이렇게 고른 사이트 301곳을 한꺼번에 AI에 넘기고 고위험 취약점만 찾도록 지시했다.

스트릭스는 8월 23일부터 31일까지 호스트 138곳을 대상으로 146차례 실행됐다. 여러 스캔을 동시에 돌려 633시간 분량 작업을 195시간 만에 끝냈다. 9월 10일부터 15일까지 6일 동안에는 케언을 이용한 공격 프로젝트 105건이 시작됐고 최소 27개 기업에서 침해가 확인됐다. 침입에 성공한 경우 하루 안에, 길게는 몇 시간 안에 공격이 진행됐다. 기록이 남은 48건을 보면 정찰에 그친 경우부터 제한적 접근과 원격 코드 실행, 데이터 반출, 카드 정보 탈취 코드 설치까지 공격 단계가 다양했다.

◇ 결제 화면에 스키머 심고 지워도 되살려=공격자 주요 목적 가운데 하나는 온라인 쇼핑몰 결제 화면에 스키머라는 악성 자바스크립트를 심는 것이었다. 스키머는 이용자가 입력한 카드 번호 등 결제 정보를 훔쳐 공격자에게 보낸다. 갬빗시큐리티에 따르면 최소 27개 기업에 설치 지시가 내려졌고 조사 기간 중 19곳에서 실제 설치가 확인됐다. 관련 스키머에 감염된 사이트도 100곳 넘게 발견됐다.

설치 방식은 사이트마다 달랐다. 가장 흔한 방식은 사이트가 원래 내려보내는 자바스크립트 파일 끝에 악성 코드를 덧붙이는 것이었다. 결제 페이지에 외부 스크립트를 직접 넣거나 구글 태그 설정 코드에 숨기는 수법도 쓰였다. 클라우드 저장소 쓰기 권한을 악용해 정상 콘텐츠전송네트워크(CDN)에서 악성 코드를 내려보낸 사례도 있었다.

악성 코드를 지워도 자동으로 되살리는 장치까지 만들었다. 한 쇼핑몰에서는 애플리케이션을 다시 배포하면 파일이 정상으로 돌아간다는 걸 AI가 알아채자 2분마다 파일을 확인해 악성 코드가 사라졌으면 다시 넣는 예약 작업을 서버에 설치했다. 방어하는 쪽이 파일을 한 번 고치는 것만으로는 공격을 걷어낼 수 없는 상태가 된 셈이다.

갬빗시큐리티가 확인한 것만 해도 기업 2곳에서 유효기간이 남은 신용카드 정보 61만7,938건이 반출됐다. 이 가운데 79.0%인 48만8,372건이 미국에서 발급된 카드다. 포천 500(Fortune 500)에 드는 숙박 관련 기업과 대형 항공사, 대규모 산업용품 판매사, 온라인 패션 소매업체 등에서도 접근 흔적이 확인됐다.

더 심각한 건 데이터를 훔친 뒤 벌이는 뒷정리다. 헤르메스에 등록된 공격용 스킬에는 카드 정보를 빼낸 뒤 피해 기업 데이터베이스에서 원본 카드 정보를 지우는 절차도 담겨 있었다. 이 뒷정리 때문에 업무 데이터가 사라진 사례도 나왔다. 한 자전거 판매업체에서는 AI 에이전트가 작업용 테이블을 지우면서 이름이 특정 문자열과 일치하는 테이블을 한꺼번에 삭제했다. 삭제 조건이 지나치게 넓었던 탓에 피해 기업 관리자가 만든 백업을 포함한 테이블 180개까지 지워졌다.

◇ 기업 1곳 공격에 3만원대=대규모 공격을 가능하게 하는 또 다른 요인은 비용이다. 공격자가 AI 모델 이용에 쓴 돈은 첫 4주에만 7,005.71달러였다. 이후 사용량까지 더해도 총액은 1,680만~2,520만원대(1만2,000~1만8,000달러)로 추정된다. 스캔 101건을 놓고 공격자가 직접 계산한 평균 비용은 표적 1곳당 3만5,644원대(25.46달러)였다. 가장 싼 표적은 3.13달러, 가장 비싼 표적도 79.31달러에 그쳤다. 적은 컴퓨팅 비용으로 AI가 기업 1곳을 몇 시간에서 십수 시간 동안 공격하게 할 수 있다는 얘기다.

기존 대규모 사이버 공격은 여러 표적을 조사하고 시스템마다 맞는 침입 방법을 고민하느라 상당한 인력이 필요했다. 이번에 확인된 방식에서는 사람이 표적을 고르고 간단한 목표만 주면 AI가 오랜 시간 시행착오를 이어간다. 한 방법이 실패하면 다른 경로를 찾고 침입에 성공하면 내부 인증 정보나 다른 서버를 뒤져 다음 공격으로 넘어가는 일련의 작업이 거의 자동화돼 있었다.

갬빗시큐리티는 이 점이 공격 규모보다 더 중요하다고 짚었다. 주요 공격 도구는 모두 오픈소스이고 표적을 1곳 늘리는 데 드는 추가 비용도 수십 달러에 불과하다. AI는 사람과 달리 지치지 않고 여러 기업을 동시에 몇 시간씩 살필 수 있다. 예전 같으면 수지가 맞지 않던 기업까지 공격 대상이 되면서 노릴 만한 가치가 있는 기업인지 따지던 경제적 장벽이 빠르게 낮아지고 있다는 설명이다.

갬빗시큐리티는 이번 보고서를 잠정 조사 결과라고 밝혔다. 공격자 서버에 남은 유출 데이터와 도구, 침해된 웹사이트에서 발견된 스키머, 공격 기록 등을 종합해 피해를 확인했다. 아직 조사하지 못한 공격 프로젝트가 많이 남아 있어 실제 공격 규모와 피해는 보고서 수치보다 더 클 수 있다는 게 회사 설명이다. 관련 내용은 이곳에서 확인할 수 있다.