AI·딥테크
오케스트로, AI 추론 운영 플랫폼 ‘콘체르토 AI’ 공개
AI·클라우드 소프트웨어 기업 오케스트로가 분산 서빙 구조를 적용한 AI 추론 운영 플랫폼 '콘체르토 AI'를 공개했다. 자체 테스트 결과 토큰 출력 속도를 2.2배 향상시켰으며 엔비디아 GPU 외에도 리벨리온, 퓨리오사AI 등 국산 NPU 연동을 지원해 공공 및 금융권 프라이빗 AI 시장을 공략한다.
권여미2026년 6월 3일0
2026-06-03 09:26 (수)로그인
'퓨리오사AI' 검색 결과 2건
AI·클라우드 소프트웨어 기업 오케스트로가 분산 서빙 구조를 적용한 AI 추론 운영 플랫폼 '콘체르토 AI'를 공개했다. 자체 테스트 결과 토큰 출력 속도를 2.2배 향상시켰으며 엔비디아 GPU 외에도 리벨리온, 퓨리오사AI 등 국산 NPU 연동을 지원해 공공 및 금융권 프라이빗 AI 시장을 공략한다.
AI 반도체 스타트업 퓨리오사AI가 글로벌 반도체 기업 브로드컴과 2나노 공정 기반의 차세대 AI 가속기를 공동 개발한다. 양사의 설계 및 네트워킹 기술을 결합해 HBM4가 탑재된 3세대 추론 플랫폼을 구축하고 2028년 상반기 샘플링에 나설 계획이다.