[태그:] 추론최적화

오케스트로가 에이전트형 AI 트래픽 증가에 대응하는 추론 운영 플랫폼 '콘체르토 AI'를 공개했다. 추론 작업을 분산 처리해 기존 대비 토큰 출력 ...