AI 연구자 세바스티안 라슈카(Sebastian Raschka)가 구독 기반 상용 서비스인 Claude Code나 Codex 없이도 오픈웨이트 모델(open-weight model)을 활용해 로컬 코딩 에이전트를 구성하는 방법을 상세히 공개했다. 핵심 구조는 두 요소로 나뉜다. 추론과 코드 생성을 담당하는 LLM(대규모 언어 모델)과, 파일 읽기·편집·명령 실행·변경 검증을 수행하는 코딩 하네스(harness)다. 상용 서비스가 이 두 요소를 통합 제공하는 반면, 로컬 구성은 사용자가 각 구성 요소를 직접 선택하고 조합하는 방식이다.
라슈카가 주로 추천하는 조합은 Qwen3.6 모델과 Qwen-Code 하네스다. Qwen-Code는 Codex와 마찬가지로 오픈소스이며, Qwen 모델은 자사 하네스에 맞게 최적화돼 있다. Qwen3.6 35B-A3B 모델의 경우 다운로드 크기는 약 22GB이고 구동에 필요한 RAM은 30~40GB 수준으로, M4 칩 탑재 Mac Mini나 NVIDIA DGX Spark에서 원활하게 실행된다. 한편 Claude Code와 Codex도 오픈웨이트 모델과 함께 사용할 수 있으며, Cline 같은 대안 하네스도 활용 가능하다. 각 하네스가 세부 구현 방식에서 차이를 보이지만, 파일 읽기·편집·커맨드 실행이라는 핵심 기능은 공통으로 제공한다.
로컬 구성을 선택하는 이유는 크게 비용·개인정보·재현성 세 가지로 정리된다. 하드웨어를 보유하고 있다면 구독료 없이 실행 비용이 사실상 전기료에 그치고, API 가격 변동이나 서비스 플랜 한도에 영향을 받지 않는다. 영수증 처리나 민감 문서 작업처럼 데이터를 외부 서버로 보내고 싶지 않은 업무에서는 로컬 모델이 실질적인 개인정보 보호 수단이 된다. 또한 모델 버전이 자동 업데이트되면서 기존 워크플로가 예상치 않게 바뀌는 상황을 피하고 싶을 때도 로컬 환경이 유리하다. 라슈카는 현재도 일상적인 작업에는 Codex와 Claude Code를 주로 사용한다면서도, 로컬 설정이 주는 완전한 통제감과 투명성이 재미와 실용성을 함께 준다고 밝혔다.
로컬 코딩 에이전트 시장 자체도 빠르게 넓어지고 있다. OpenCode, Cline, Pi, Noumena Code 등 새로운 하네스가 계속 등장하고 있고, GLM 5.2를 비롯한 다양한 오픈웨이트 모델이 여러 하네스와의 호환성을 확보하고 있다. 특히 NVIDIA가 2026년 5월 공개한 Polar 논문에 따르면, 특정 모델이 해당 하네스에 맞춰 강화학습으로 추가 최적화될 때 성능이 더 높아진다는 점도 확인됐다. 구독 비용 절감이나 데이터 보안이 우선 과제인 조직이라면 로컬 코딩 에이전트가 현실적인 대안으로 떠오르는 시점이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
