클로드 소넷4, 100만 토큰 컨텍스트 지원한다

앤트로픽(Anthropic)이 선보인 생성형 AI인 클로드 소넷 4(Claude Sonnet 4)가 앤트로픽 API에서 최대 100만 토큰 컨텍스트를 지원하게 됐다. 이는 기존 5배 규모로, 7만 5,000줄이 넘는 코드나 수십 편에 이르는 연구 논문을 포함한 전체 코드베이스를 단 한 번 요청으로 처리할 수 있다.

클로드 소넷 4의 롱 컨텍스트 지원은 앤트로픽 API와 아마존 배드록(Amazon Bedrock)에서 퍼블릭 베타 버전으로 제공되며 향후 구글 클라우드 버텍스(Vertex) AI에서도 지원될 예정이다. 앤트로픽은 다른 클로드 제품에도 롱 컨텍스트 기능 도입을 검토 중이라고 밝혔다.

컨텍스트 확장으로 개발자는 클로드를 활용해 다양한 데이터 집약적 활용 사례를 구현할 수 있다. 첫째 대규모 코드 분석. 소스 파일, 테스트, 문서 등을 포함한 전체 코드베이스를 읽고 분석할 수 있다. 클로드는 프로젝트 아키텍처를 파악하고 파일 간 의존성을 식별하며 시스템 설계 전반을 고려한 개선안을 제안할 수 있다.

둘째 문서 통합. 법률 계약서, 연구 논문, 기술 명세서 등 방대한 문서 집합을 한 번에 처리할 수 있다. 전체 컨텍스트를 유지한 상태에서 수백 개에 이르는 문서 간 연관성을 분석 가능하다.

셋째 컨텍스트 인식형 에이전트. 도구 수백 건 호출이나 다단계 워크플로 전반에 걸쳐 컨텍스트를 유지하는 에이전트를 구축할 수 있다. API 문서, 도구 정의, 상호작용 기록을 일관성 있게 포함할 수 있다.

이번 100만 토큰 지원에 따라 앤트로픽 API의 클로드 소넷 4 가격은 20만 토큰을 초과하는 프롬프트에 대해서만 조정된다. 20만 토큰 이하 프롬프트 요금은 입력 100만 토큰당 3달러, 출력 100만 토큰당 15달러이며 20만 토큰 초과 시 입력 100만 토큰당 6달러, 출력 100만 토큰당 22.5달러다.

실제 사용자 사례도 소개됐다. 웹 개발 혁신을 목표로 클로드를 브라우저 기반 개발 플랫폼에 통합한 Bolt.new 에릭 시몬스 CEO는 클로드 소넷 4는 자사 코드 생성 워크플로 핵심 모델이며 실환경에서 다른 주요 모델을 항상 능가한다면서 100만 컨텍스트 윈도 도입으로 개발자는 높은 정확도를 유지한 채 훨씬 더 대규모 프로젝트를 다룰 수 있게 됐다고 말했다.

또 대화 내용을 실행 가능한 코드로 변환하는 AI 파트너 마에스트로(Maestro)를 개발하는 iGent AI 쇼언 워드 CEO는 과거 불가능했던 일이 현실이 됐다면서 100만 토큰 컨텍스트를 갖춘 클로드 소넷 4는 마에스트로 자율 기능을 대폭 강화했다며 이 도약으로 실제 코드베이스에서 수일간 세션을 진행하는 등 프로덕션 규모 엔지니어링이 가능해져 에이전트 기반 소프트웨어 엔지니어링에 새로운 패러다임이 열린다고 말했다.

한편 앤트로픽은 8월 12일 클로드에 과거 대화를 검색하는 기능을 추가했다. 이를 통해 언제든 이전 대화를 기반으로 클로드와 대화를 이어갈 수 있게 됐다. 다만 이 기능은 현재 유료 플랜(Max, Team, Enterprise) 사용자에게만 제공되며 향후 다른 플랜으로 확대될 예정이다. 관련 내용은 이곳에서 확인할 수 있다.