구글, 저사양 기기 실행 가능한 AI 모델 출시했다

구글이 오픈 모델 Gemma 3 270M을 출시했다. Gemma 3 270M은 2억 7,000만 파라미터라는 비교적 소형 모델임에도 불구하고 높은 성능을 갖추고 있다.

Gemma 3 270M은 Gemma 3 시리즈의 하나로 출시된 소형 모델이다. 파라미터 수는 2억 7,000만 개로 이 중 1억 개 파라미터가 데이터 처리를 담당하는 트랜스포머(Transformer) 블록이고 나머지 1억 7,000만 개 파라미터는 방대한 어휘를 수록한 임베딩 파라미터다. 어휘는 25만 6,000토큰에 달하며 희소한 어휘도 처리할 수 있다. 또 특정 분야에 특화된 AI 모델로 미세 조정하는 것도 가능하다.

Gemma 3 270M은 명령 수행 능력과 텍스트 구조화 능력에 중점을 두고 훈련됐다. 벤치마크에서도 Gemma 3 270M이 동일 크기 모델과 비교해 월등히 높은 명령 수행 능력을 갖추고 있다.

Introducing Gemma 3 270M! 🚀 It sets a new standard for instruction-following in compact models, while being extremely efficient for specialized tasks. https://t.co/kC9OOPwzVi

— Google AI Developers (@googleaidevs) August 14, 2025

Gemma 3 270M은 일반 모델인 gemma-3-270m과 양자화를 고려해 훈련된 gemma-3-270m-it 2가지 모델로 나뉘어 출시됐다. gemma-3-270m-it는 성능 저하를 억제하면서 INT4로의 양자화가 가능하며 저사양 기기에서도 고속 실행할 수 있다.

Gemma 3 270M은 저전력 성능도 특징으로 하며 픽셀 9 프로 SoC를 이용한 테스트에서는 Gemma 3 270M INT4 양자화 모델을 사용해 25회 대화를 해도 배터리를 0.75%밖에 소모하지 않는다는 결과를 얻었다.

또 Gemma 3 270M은 개발자에 의한 미세 조정을 전제로 개발되어 Gemma 3 270M을 기반으로 각종 용도에 특화된 소형 고성능 모델을 만들 수 있다. 구글에 따르면 특정 분야에 특화된 소형 미세 조정 모델이 대규모 모델보다 높은 성능을 발휘하는 경우도 있다고 한다.

gemma-3-270m과 gemma-3-270m-it는 허깅페이스에서 배포되고 있다. 또 Ollama나 LM Studio 등 각종 AI 실행 환경도 Gemma 3 270M의 실행을 지원하고 있다. 관련 내용은 이곳에서 확인할 수 있다.