AI·딥테크
오케스트로, AI 추론 운영 플랫폼 ‘콘체르토 AI’ 공개
AI·클라우드 소프트웨어 기업 오케스트로가 분산 서빙 구조를 적용한 AI 추론 운영 플랫폼 '콘체르토 AI'를 공개했다. 자체 테스트 결과 토큰 출력 속도를 2.2배 향상시켰으며 엔비디아 GPU 외에도 리벨리온, 퓨리오사AI 등 국산 NPU 연동을 지원해 공공 및 금융권 프라이빗 AI 시장을 공략한다.
권여미2026년 6월 3일1
2026-08-07 20:52 (금)로그인
'클라우드인프라' 검색 결과 3건
AI·클라우드 소프트웨어 기업 오케스트로가 분산 서빙 구조를 적용한 AI 추론 운영 플랫폼 '콘체르토 AI'를 공개했다. 자체 테스트 결과 토큰 출력 속도를 2.2배 향상시켰으며 엔비디아 GPU 외에도 리벨리온, 퓨리오사AI 등 국산 NPU 연동을 지원해 공공 및 금융권 프라이빗 AI 시장을 공략한다.
경기창조경제혁신센터가 AWS와 함께 국내 AI·플랫폼 스타트업 30개사의 글로벌 진출을 지원하는 'AroundX 정글 프로그램'을 시작했다. 전담 멘토링과 기술 컨설팅을 제공하며, 오는 7월 일본을 시작으로 하반기 미국 현지 프로그램과 글로벌 VC 투자 연계를 추진한다.
클라우드 전문 기업 오케스트로가 112억원 규모의 국산 AI 반도체 클라우드 소프트웨어 개발 국책 과제 주관사로 선정됐다. 2029년까지 NPU와 PIM에 최적화된 SW 스택과 모델 허브를 구축해 국산 반도체 중심의 클라우드 생태계 혁신을 주도할 계획이다.