x

이메일로 만나보는 스타트업 가이드

투자, 행사, 정부사업 등 스타트업 생태계 소식을 이메일로 편하게 받아보세요.

엔비디아가 기업 데이터베이스를 그대로 읽어 결과를 예측하는 AI와 사내 정보를 검색 가능한 형태로 정리하는 모델을 잇달아 내놨다.

◇ 추가 학습 없이 고객 이탈·부정 사용 예측=엔비디아가 공개한 쿠모 릴레이셔널(Kumo Relational)은 인터넷 서비스 등을 운영하는 기업 데이터베이스를 읽혀 예측 내용에 맞춘 추가 학습 없이 데이터를 분석하는 AI다.

쿠모 릴레이셔널은 기업 데이터베이스를 대상으로 곧바로 예측을 수행하는 사전 학습 기반 모델이다. 예측 쿼리를 입력하면 과거 사례를 최대 1만 건까지 컨텍스트로 모은 뒤 지시 한 번으로 고객 이탈과 수요 전망, 부정행위 같은 결과를 예측한다. 데이터를 AI가 분석하기 쉬운 형태로 가공하는 번거로운 작업이 필요 없어진다.

기존에는 기업마다 맞춤형으로 진행해야 했던 작업별 학습이나 특징 공학, 테이블 평탄화가 모두 필요 없다는 게 특징이다. 일반적인 관계형 데이터베이스 벤치마크에서 지도학습 기반 머신러닝 모델을 처음으로 앞섰다고 한다.

엔비디아에 따르면 구조화 데이터용 기반 모델 대부분은 평탄한 단일 테이블을 대상으로 한다. 하지만 실제 데이터는 관계형 데이터베이스에 저장돼 있다. 그 안에서 사용자는 구매 이력과 연결되고 구매 이력은 상품과 연결되며 이 모든 게 시간에 따라 바뀐다. 이를 수작업으로 집계해 한 줄로 평탄화하면 세부 정보가 사라지고 사람 손도 많이 든다는 설명이다.

엔비디아는 쿠모 릴레이셔널을 테이블과 외래 키, 타임스탬프를 있는 그대로 살려 데이터베이스에 직접 작동하는 관계형 기반 모델이라고 소개했다. 실제 데이터셋을 반영한 합성 관계형 데이터로 한 번만 사전 학습했으며 새 작업에는 인컨텍스트 학습으로 적응한다. 추론 단계에서는 컨텍스트 사례를 최대 1만 건 읽어 들이고 컨텍스트 생성부터 모델 추론까지 나머지 처리를 모두 스스로 수행한다.

엔비디아는 관계형 데이터베이스 대상 예측 모델을 만들려면 여전히 수주에 걸친 특징 공학과 작업별 학습, 조정된 파이프라인이 필요하다고 지적했다. 쿠모 릴레이셔널 같은 구조화 데이터용 기반 모델이 이런 상황을 바꿀 것이라고 강조했다.

◇ 사내 정보 검색용 모델 5종 무료 공개=엔비디아는 검색증강생성(RAG)용 AI 모델군 네모트론 리트리버(Nemotron Retriever)에 모델 5종을 추가했다. 모든 모델을 오픈 모델로 무료 공개했다.

Nemotron-3.5-Embed-8B-BF16은 34개 언어를 지원하는 임베딩 모델로 이미지와 텍스트 입력을 모두 처리한다. Nemotron-3.5-Embed-1B-BF16은 이 모델의 소형 버전이며 Nemotron-3.5-Embed-1B-NVFP4는 소형 버전을 NVFP4 방식으로 양자화한 모델이다. Nemotron-3.5-Rerank-8B-BF16은 쿼리와 이미지·텍스트 간 관련성 순위를 매기고 Nemotron-3.5-Parse는 PDF 파일 내용을 AI가 처리하기 쉬운 데이터로 정리한다.

임베딩 모델별 벤치마크 점수를 비교하면 Nemotron-3.5-Embed-8B-BF16이 Qwen3-VL-Embedding-8B와 EmbeddingGemma-2보다 높은 점수를 기록했다. 소형인 Nemotron-3.5-Embed-1B-BF16도 Qwen3-VL-Embedding-8B에 근접한 성능을 보였다.

처리 속도와 정확도를 함께 놓고 보면 8B와 1B 임베딩 모델 3종 모두 경쟁 모델보다 빠르고 정확했다. 쿼리당 비용 기준으로는 Nemotron-3.5-Embed-8B-BF16을 Nemotron-3.5-Rerank-8B-BF16과 함께 쓰면 비용을 줄이면서 정확도를 높일 수 있다.

엔비디아는 Nemotron-3.5-Parse 정확도도 경쟁 모델보다 높다고 내세웠다. 초당 처리 페이지 수와 정확도를 비교한 결과에서는 Nemotron-3.5-Parse 처리 속도가 두드러졌다. 각 모델은 현재 배포 중이며 라이선스는 OpenMDW-1.1이다. 관련 내용은 이곳에서 확인할 수 있다.

뉴스 레터 구독하기

Related Posts

Next Post