LLM 코드 진화로 적대적 게임 전략 자동 발견, AAMAS 대회 1위
대규모 언어 모델(LLM) 기반 코드 진화 기법을 적대적 다중 에이전트 게임에 적용하는 과정에서 발생하는 핵심 난제, 즉 전략이 발전할수록 평가 ...
[태그:] LLM
LLM 수학 증명 검증, 단계별 엄격 검사로 오류 탐지 개선
단계별 엄격 검증 프레임워크가 전체 문맥 평가 방식보다 연구 수준 수학 증명의 미묘한 논리 오류를 더 정확히 찾아낸다.
분산 능동 메모리로 LLM 장기 추론 한계 극복하는 ActiveMem 제안
장기 추론 과제를 수행하는 LLM(대규모 언어 모델) 에이전트는 대부분 단일 모델 컨텍스트 안에서 검색 정보와 상호작용 이력을 관리하는 중앙화 메모리 ...
주제별 문서 구조로 LLM 장기 기억 유지하는 인피니 메모리 제안
인피니 메모리는 LLM 에이전트의 장기 기억을 주제별 문서 형태로 관리해 MemoryAgentBench에서 64.7% 점수를 달성했다.
PlanGPT 재검증 연구: LLM 계획 능력, 탐욕 탐색 수준에 그쳐
LLM이 자동화 계획(Automated Planning) 과제에서 실질적인 가치를 지니는지에 대한 재검증 연구가 arXiv에 발표됐다. 자동화 계획은 초기 상태에서 목표 상태까지 이르는 ...
마이크로소프트 SkillOpt로 프롬프트 자동 최적화 구현하기
마이크로소프트의 SkillOpt 프레임워크를 활용해 프롬프트를 자동으로 최적화하고 기준선 대비 성능 향상을 측정하는 구현 절차를 소개한다.
LLM 언러닝 새 접근법, 영공간 제약 저랭크 적응으로 원치 않는 지식 정밀 제거
대규모 언어 모델(LLM)에서 유해하거나 불필요한 지식을 선택적으로 제거하는 기술, 이른바 '언러닝(unlearning)' 연구에서 새로운 접근법이 제시됐다. 연구팀은 영공간 제약 응답 지정 ...
K-포싱, 한 번에 여러 토큰 생성해 LLM 추론 속도 최대 3.5배 향상
대규모 언어 모델(LLM)의 추론 속도를 높이기 위한 새로운 디코딩 패러다임 'K-포싱(K-Forcing)'이 제안됐다. 연구팀은 기존 자기회귀(AR) 모델의 학생 모델에 진보적 자기 ...
LLM으로 네트워크 AI 결정 이유를 자연어로 설명하는 XAI 프레임워크 제안
차세대 네트워크 운영에 AI·ML 모델이 폭넓게 적용되면서, 모델 결정 과정의 불투명성이 현장 운영자의 신뢰를 가로막는 장벽으로 떠오르고 있다. 연구팀은 이 ...
토큰 중요도 적응형 동적 선형 어텐션, 장문맥 LLM 성능 개선
토큰별 중요도에 따라 메모리 상태 경계를 동적으로 결정하는 DLA 프레임워크가 제안됐다. 16개 데이터셋 평가에서 기존 방식을 능가했다.
TheoremBench, LLM 형식 수학 증명 능력 새 기준 제시…쉬운 문제 편향 확인
Lean4 기반 TheoremBench가 LLM의 수학 정리 증명 능력을 경쟁 문제 중심 평가에서 벗어나 고전 정리와 의존성 구조 기반으로 측정한다.
밀집 LLM을 희소 모델로 변환하는 지속 훈련 기법 연구 발표
이미 학습된 밀집 LLM 체크포인트를 하드웨어 친화적인 채널 희소 모델로 변환하는 지속 학습 기법이 공개됐다. Qwen2.5-8B를 기반으로 검증했다.
