아마존웹서비스(AWS)가 아마존 세이지메이커 점프스타트(Amazon SageMaker JumpStart)를 통해 엔비디아(NVIDIA)의 대규모 비전언어 모델 ‘Nemotron 3.5 Super VL’을 제공하기 시작했다. 이미지와 영상, 텍스트를 동시에 이해하고 처리하는 멀티모달 AI 시스템을 클라우드 환경에서 손쉽게 구축할 수 있도록 지원하는 행보다.
이번에 도입된 모델은 네모트론 3.5 제품군에 속하며 문서 판독부터 그래픽 사용자 인터페이스(GUI) 분석, 동영상 질의응답, 다단계 에이전트 작업까지 폭넓은 영역을 겨냥해 설계됐다. 전체 파라미터 규모는 120B 수준의 하이브리드 혼합 전문가(MoE) 구조를 취하고 있으며 실제 연동 시 활성화되는 파라미터는 12B로 효율성을 높였다.
처리할 수 있는 입력 용량도 대폭 늘어났다. 최대 100만 토큰에 달하는 컨텍스트 길이를 지원해 긴 호흡의 문서나 대용량 영상 데이터를 한 번에 소화한다. 여기에 추측 디코딩 방식을 활용해 텍스트 생성 속도를 끌어올리는 다중 토큰 예측(MTP) 헤드가 내장되었으며 작업 성격에 맞춰 추론 수준을 유연하게 조절할 수 있다.
지원 언어는 한국어를 포함해 영어, 프랑스어, 스페인어, 독일어, 일본어, 힌디어, 중국어 등 10개 국어다. 이미지와 문서, 차트 데이터를 활용한 멀티모달 지도 미세조정 및 강화학습 과정을 거쳤으며 구조화된 JSON 출력과 외부 도구 호출 기능을 뒷받침한다.
세이지메이커 점프스타트에서는 활용 목적에 맞춘 두 가지 버전이 제공된다. 엔비디아 GPU를 탑재한 G7 인스턴스 환경에 최적화된 NVFP4 버전은 빠른 추론 처리에 초점을 맞췄다. 맞춤형 미세조정이나 강화학습, 도메인 적응 학습이 필요한 개발자들을 위해 BF16 참조 가중치 버전도 함께 쓸 수 있게 열어두었다.
이용을 원하는 기업 고객은 AWS 세이지메이커 콘솔 내 점프스타트 카탈로그에서 모델을 선택하거나 파이썬 소프트웨어 개발 Kit(SDK)를 통해 자사 계정 환경에 바로 배포할 수 있다.
