AI·딥테크
노타, ICML 2026 최적화 챌린지 3위…LLM 추론 속도 6.978배 향상
AI 모델 경량화 스타트업 노타가 국제 머신러닝 학회 'ICML 2026' 최적화 챌린지에서 3위에 올랐다. 단일 GPU 환경에서 Qwen 모델의 추론 속도를 약 7배 높인 경량화 기술력을 인정받았으며 관련 연구 논문 2편도 학회 워크숍에 채택됐다.
권여미2026년 7월 15일0
2026-07-18 14:49 (토)로그인
'GPU효율화' 검색 결과 2건
AI 모델 경량화 스타트업 노타가 국제 머신러닝 학회 'ICML 2026' 최적화 챌린지에서 3위에 올랐다. 단일 GPU 환경에서 Qwen 모델의 추론 속도를 약 7배 높인 경량화 기술력을 인정받았으며 관련 연구 논문 2편도 학회 워크숍에 채택됐다.
AI·클라우드 소프트웨어 기업 오케스트로가 분산 서빙 구조를 적용한 AI 추론 운영 플랫폼 '콘체르토 AI'를 공개했다. 자체 테스트 결과 토큰 출력 속도를 2.2배 향상시켰으며 엔비디아 GPU 외에도 리벨리온, 퓨리오사AI 등 국산 NPU 연동을 지원해 공공 및 금융권 프라이빗 AI 시장을 공략한다.