AI·딥테크
오케스트로, AI 추론 운영 플랫폼 ‘콘체르토 AI’ 공개
AI·클라우드 소프트웨어 기업 오케스트로가 분산 서빙 구조를 적용한 AI 추론 운영 플랫폼 '콘체르토 AI'를 공개했다. 자체 테스트 결과 토큰 출력 속도를 2.2배 향상시켰으며 엔비디아 GPU 외에도 리벨리온, 퓨리오사AI 등 국산 NPU 연동을 지원해 공공 및 금융권 프라이빗 AI 시장을 공략한다.
권여미2026년 6월 3일1
2026-08-07 20:54 (금)로그인
'오케스트로' 검색 결과 2건
AI·클라우드 소프트웨어 기업 오케스트로가 분산 서빙 구조를 적용한 AI 추론 운영 플랫폼 '콘체르토 AI'를 공개했다. 자체 테스트 결과 토큰 출력 속도를 2.2배 향상시켰으며 엔비디아 GPU 외에도 리벨리온, 퓨리오사AI 등 국산 NPU 연동을 지원해 공공 및 금융권 프라이빗 AI 시장을 공략한다.
클라우드 전문 기업 오케스트로가 112억원 규모의 국산 AI 반도체 클라우드 소프트웨어 개발 국책 과제 주관사로 선정됐다. 2029년까지 NPU와 PIM에 최적화된 SW 스택과 모델 허브를 구축해 국산 반도체 중심의 클라우드 생태계 혁신을 주도할 계획이다.