Together AI가 국제머신러닝학회(ICML) 2026에서 에이전트부터 GPU 커널까지 AI 스택 전 계층을 아우르는 연구 9편을 발표했다. 연구는 에이전트 평가, 모델 형성, 알고리즘 최적화, 시스템 최적화의 네 층위로 나뉜다. 특히 추측 디코딩 연구 Aurora가 현재 프로덕션 시스템 ATLAS로 이미 배포돼 운영 중인 점에서, 논문과 실제 서비스가 동기화된 연구 방식이 주목된다.
에이전트 계층에서는 데이터과학 에이전트 평가 표준화 프레임워크 DSGym과 에이전트 추론 서빙 최적화 시스템 ThunderAgent가 핵심이다. DSGym은 10개 이상 도메인에 걸친 1,000건 이상의 과학 태스크를 단일 API로 통합 평가하며, 인간 레이블링 없이 4B 모델을 최신 수준의 오픈소스 데이터과학 에이전트로 훈련하는 데 성공했다. ThunderAgent는 에이전트 워크플로 전체를 스케줄러가 인식하게 함으로써 에이전트 워크로드에서 1.5~3.6배 높은 처리량을 달성하고, RL 롤아웃 속도를 1.8~3.9배 개선했다. TTT-Discover는 오픈소스 120B 모델을 활용해 문제당 수백 달러 수준의 비용으로 성과를 냈으며, 60년 된 수학 난제인 에르되시 문제의 경계값을 기존보다 더 좁히는 데 성공했다.
모델 훈련과 추론 최적화 연구도 주목할 만하다. RARO(Relativistic Adversarial Reasoning Optimization)는 정답 검증기 없이도 RL 수준의 추론 능력을 달성하는 방법으로, 시험에서 전문가 응답 대비 25% 승률을 기록해 지도 미세조정(SFT)의 5.9%를 크게 웃돌았다. 검증 프레임워크 V1은 스위스 토너먼트 방식의 쌍비교 검증기로 기존 생성 결과에서 10% 더 많은 정답을 끌어낸다. 추측 디코딩 시스템 Aurora는 온라인 강화학습으로 추측기를 실시간 업데이트해 MiniMax M2.1 229B 같은 신규 모델에서 1.5배의 초기 속도 향상을 제공하며 이후 추가로 1.25배 개선이 이어진다. 시스템 최적화 분야에서는 단일 8xH100 노드에서 500만 토큰 컨텍스트 학습을 지원하며 어텐션 메모리를 최대 87.5% 줄이는 기법도 포함됐다.
Together AI는 이번 발표가 단순 학술 성과 나열이 아니라 에이전트에서 GPU 커널까지 각 층위가 맞물려야 전체 스택이 제 성능을 낼 수 있다는 설계 철학을 반영한다고 설명했다. 연구 결과 코드와 GPU 커널 구현체는 공개 저장소를 통해 제공된다.
