x

이메일로 만나보는 스타트업 가이드

투자, 행사, 정부사업 등 스타트업 생태계 소식을 이메일로 편하게 받아보세요.

보안 연구 기업 칼리프(Calif)가 11월 17일 자바(Java) 오픈소스 구현체인 오픈JDK(OpenJDK)에 심각한 취약점 자바포셸(Java4Shell·CVE-2026-114938)이 있다고 발표했다. 공격자가 자바포셸을 악용하면 기밀 정보를 빼내거나 원격 코드 실행(RCE)을 할 수 있다. 칼리프는 오픈AI(OpenAI) AI 코딩 에이전트 코덱스(Codex)를 써서 1시간 만에 취약점을 찾았다고 밝혔다.

자바포셸이 발견된 곳은 오픈JDK Base64 디코딩 처리 부분이다. Base64는 바이너리 데이터를 텍스트로 다룰 수 있게 바꾸는 방식으로 사용자 인증과 파일 업로드, 네트워크를 통한 데이터 송수신에 널리 쓰인다.

자바는 메모리 관리를 자동화하고 잘못된 메모리 접근을 막는 구조를 갖춰 메모리 안전성이 높은 언어로 알려져 있다. 하지만 자바 실행 환경 자체는 C와 C++, 어셈블리어로 만들어져 메모리 손상으로 이어지는 취약점이 끼어들 여지가 있다.

오픈JDK는 Base64 디코딩을 빠르게 하려고 이를 지원하는 x86-64 프로세서 확장 명령어 세트 AVX-512 VBMI를 쓴다. 칼리프가 찾은 건 이 고속화 처리를 맡는 어셈블리 코드 결함이다. 잘못된 Base64 데이터를 처리하면 확보된 영역을 넘어 메모리에 데이터가 쓰인다.

◇ 지라·젠킨스 등 인증 없이 원격 코드 실행=칼리프는 기본 설정 상태인 키클록(Keycloak)과 아틀라시안 지라(Atlassian Jira), 아틀라시안 컨플루언스(Atlassian Confluence), 제이프로그 아티팩토리(JFrog Artifactory), 젠킨스(Jenkins), 핑페더레이트(PingFederate)에서 인증 없이 원격 코드 실행이 가능하다는 걸 실증했다. 아파치 카프카(Apache Kafka)와 아파치 솔라(Apache Solr), 엘라스틱서치(Elasticsearch), 게릿(Gerrit), 넷플릭스 스피네이커(Netflix Spinnaker)에서도 인증을 거친 뒤 원격 코드 실행에 성공했다.

악성 서버에 TLS로 접속한 자바 프로그램도 공격할 수 있다. 외부 접속을 받는 서버뿐 아니라 클라이언트 쪽 애플리케이션도 공격 대상이 될 수 있다는 뜻이다. 자바포셸 심각도를 나타내는 CVSS 4.0 점수는 10점 만점에 9.2점으로 가장 심각한 긴급(Critical) 등급이다.

영향을 받는 건 오픈JDK 17.0.6 이후 패치하지 않은 버전이다. 오픈JDK 기반인 아마존 코레토(Amazon Corretto)와 이클립스 테무린(Eclipse Temurin), 마이크로소프트 빌드 오브 오픈JDK(Microsoft Build of OpenJDK), 오라클 자바 SE(Oracle Java SE)도 영향을 받는다.

다만 취약점이 특정 CPU용으로 최적화한 코드에 있어 모든 자바 실행 환경이 영향을 받는 건 아니다. 대상은 AVX-512 VBMI를 지원하는 x86-64 프로세서를 쓰는 환경으로 인텔(Intel) 아이스레이크(Ice Lake) 세대 이후 일부 제온(Xeon)과 AMD 젠4(Zen 4) 세대 이후 에픽(EPYC)·라이젠(Ryzen)이 해당한다. ARM64 프로세서는 영향이 없다.

◇ 사람이 전략 짜고 AI가 공격 코드 개발=자바포셸을 찾은 콴 루옹(Quan Luong) 칼리프 보안 연구원은 자바 가상 머신(JVM)에서 복잡한 처리를 맡는 JIT 컴파일러와 암호화 처리 등에 주목해 코덱스에 코드를 조사하게 했다. 처음에는 현실적으로 악용하기 어려운 취약점 후보만 나왔지만 지시를 거듭하자 코덱스가 Base64 디코딩 처리에서 메모리 손상으로 이어지는 결함을 찾아냈다. 루옹 연구원이 취약점을 찾는 데 걸린 시간은 1시간이었고 첫 공격 코드를 만드는 데도 2시간밖에 걸리지 않았다. AI 사용에 든 토큰 비용은 모두 합쳐 200달러가 안 됐다.

자바포셸은 애플리케이션마다 공격 방법이 다르다. 그래서 칼리프는 먼저 연구원이 공격 전략을 세우고 AI가 쓸 개발 환경을 갖췄다. 이후에는 AI 에이전트가 연구원이 마련한 전략에 따라 후속 공격 코드 대부분을 거의 자율적으로 개발했다.

칼리프는 그리스 신화 속 반인반마 켄타우로스에 빗대 지금을 사람과 AI가 한 몸이 된 켄타우로스 해커 시대라고 표현했다. AI가 막대한 처리 능력을 제공하고 사람 연구원이 전문 지식과 상황 판단력을 보태는 구조다. 칼리프는 오늘날 가장 뛰어난 해커는 AI도 사람도 아닌 둘을 결합한 켄타우로스 해커라고 주장했다.

칼리프는 자바포셸이 일부 애플리케이션 처리를 빠르게 하려고 넣은 코드가 고속화가 거의 필요 없는 애플리케이션에까지 심각한 보안 위험을 불러온 사례라고 지적했다. 칼리프는 사람과 AI가 함께 취약점을 찾는 데 그치지 않고 불필요한 기능과 코드를 찾아 지워 소프트웨어 복잡도를 낮추는 바이브 언코딩(Vibe Uncoding)도 제안했다.

오라클(Oracle)은 11월 17일 자바포셸 수정 패치를 내놨다. 칼리프는 자바 이용자에게 서둘러 업데이트를 적용하라고 당부했다. 임시 대책으로 Base64 디코딩에서 CPU 확장 명령어를 쓰는 고속화 기능을 끄는 방법도 안내했다. 관련 내용은 이곳에서 확인할 수 있다.

뉴스 레터 구독하기

Related Posts

Next Post