E-TTS, 로봇 조작용 테스트타임 스케일링 프레임워크 제안
로봇이 물체를 집거나 조작하는 임베디드 AI 태스크에서 추론 시간(테스트타임) 연산을 확장해 성능을 높이려는 연구가 이어지고 있다. 그러나 기존 시도들은 두 ...
[태그:] 테스트타임스케일링
MARS, LLM 병렬 추론 테스트타임 토큰 최대 47% 절감하는 조기 중단 기법
병렬 LLM 추론에서 불필요한 연산을 줄이는 MARS 기법이 제안됐다. 정확도 유지하면서 자기 일관성(self-consistency) 토큰을 최대 47% 절감한다.
