AI·딥테크
오케스트로, AI 인프라 시장 운영 효율 중심으로 재편
오케스트로 그룹이 IT 관계자 1,703명 대상 조사 결과 AI 인프라의 핵심 과제가 GPU 확보에서 운영 효율과 추론 최적화로 이동했음을 확인했습니다. 오케스트로는 비용 부담과 인력 부족을 해소하기 위해 추론 플랫폼 '콘체르토 AI'의 GPU 자원 실시간 배분 기능을 고도화합니다.
권여미2026년 8월 9일3
2026-09-01 16:02 (화)로그인
'콘체르토AI' 검색 결과 2건
오케스트로 그룹이 IT 관계자 1,703명 대상 조사 결과 AI 인프라의 핵심 과제가 GPU 확보에서 운영 효율과 추론 최적화로 이동했음을 확인했습니다. 오케스트로는 비용 부담과 인력 부족을 해소하기 위해 추론 플랫폼 '콘체르토 AI'의 GPU 자원 실시간 배분 기능을 고도화합니다.
AI·클라우드 소프트웨어 기업 오케스트로가 분산 서빙 구조를 적용한 AI 추론 운영 플랫폼 '콘체르토 AI'를 공개했다. 자체 테스트 결과 토큰 출력 속도를 2.2배 향상시켰으며 엔비디아 GPU 외에도 리벨리온, 퓨리오사AI 등 국산 NPU 연동을 지원해 공공 및 금융권 프라이빗 AI 시장을 공략한다.