[태그:] LLM

메타 슈퍼인텔리전스랩이 유료 API로 파는 첫 자체 프런티어 모델 뮤즈 스파크 1.1을 공개했다. 100만 토큰 컨텍스트와 멀티에이전트 도구 사용에 초점을 ...

언어모델이 초기 구조와 교체 가능한 슬롯을 만들고 기존 탐색기가 조합을 최적화하는 신경망 설계 파이프라인을 제시한다.

모든 층에 같은 희소성을 적용하던 LLM 가지치기 대신, 층마다 활성값 백분위로 희소도를 조정하는 PALS 기법이 arXiv에 공개됐다. LLaMA-2-7B에서 성능 개선을 ...

대규모 언어 모델이 답을 내놓기 전 내부 표현만으로 신뢰도를 예측하는 '미래 신뢰도 증류' 기법이 arXiv에 공개됐다. 답변 후 신뢰도의 보정 ...

두 모델이 서로의 채점자가 되어 경쟁하며 추론 능력을 함께 끌어올리는 강화학습 기법 Agon이 arXiv에 공개됐다. DeepMath 난이도 구간에서 GRPO 대비 ...

긴 문맥 처리의 병목인 어텐션의 이차 비용을 낮추는 트랜스포머 선형화에서, 어떤 설계가 품질을 지키는지 분석한 연구가 arXiv에 공개됐다. 최대 32B ...

쿼리마다 LLM이 GPU 코드를 합성하는 SHADB가 손으로 만든 GPU 엔진을 7.4배 앞섰다. 여기서 얻은 최적화를 이식 가능한 엔진에도 옮겨 격차를 ...

자율 AI 에이전트가 참고할 스킬 21만여 개를 모은 오픈 라이브러리 SkillCenter가 공개됐다. 각 지식이 원문 인용에 그대로 연결되는 추적 가능성이 ...

실행 로그에서 노이즈를 걷어내고 진짜 실패 원인만 뽑아 에이전트를 개선하는 STRACE가 arXiv에 공개됐다. 형식 검증 벤치마크에서 성공률을 1.4배 끌어올렸다.

HR 플랫폼 플렉스가 조직·구성원 데이터를 AI와 결합한 기업용 AI 플랫폼을 공개했다. 직무·권한별로 응답이 달라지는 맞춤형 AX 지원이 특징이다.

중국 AI 스타트업 미니맥스가 2.7조 매개변수 규모의 오픈소스 대규모 언어 모델을 3분기 중 공개할 계획인 것으로 전해졌다.

비영어권 실제 고객 요청처럼 작성된 과제로 코딩 에이전트를 평가하는 RuBench가 나왔다. 제품이 모델을 조용히 바꿔 쓰는 문제까지 드러냈다.