오픈AI가 널리 쓰이던 AI 코딩 벤치마크 SWE-Bench Pro의 과제 가운데 약 30%가 결함이라고 판정하고, 앞서 내놓았던 이 시험에 대한 보증을 철회했다. 코딩 능력을 재는 사실상의 표준처럼 인용돼 온 지표가, 정작 그 시험을 신뢰하던 진영에 의해 신뢰할 수 없다고 선언된 셈이다.
이 사건이 지금 중요한 이유는 단순히 시험지 하나에 오류가 있었다는 데 있지 않다. 벤치마크 점수는 모델을 출시할지 말지, 어떤 안전 조건을 걸지, 나아가 어느 모델을 도입할지를 정하는 근거로 쓰인다. 측정 도구가 흔들리면 그 위에 쌓인 판단 전체가 흔들린다.
결함의 정체는 ‘사람용 과제를 AI 시험지로 오해한 것’
오픈AI는 먼저 자동 선별 도구로 의심스러운 과제 286개를 걸러냈다. 이어 코덱스(Codex) 기반 AI 에이전트가 사례를 하나씩 검토하고, 마지막 판정은 사람 연구자가 내렸다. 이 과정에서 200개(27.4%)가 결함으로 분류됐다. 별도로 진행한 검토에서는 숙련 개발자 다섯 명이 같은 사례를 살펴 249개(34.1%)를 문제로 지목했다. 사람 검토자가 AI 에이전트보다 더 엄격했지만, 양쪽은 74%의 사례에서 판정이 일치했다.
오픈AI는 결함을 네 갈래로 정리한다. 어떤 과제는 지나치게 엄격해 실제로 동작하는 답을 틀렸다고 처리했고, 어떤 과제는 지나치게 모호해 숨겨진 테스트 케이스에 파묻힌 요구 조건을 AI가 알아서 맞히길 기대했다. 어떤 과제는 지나치게 허술해 불완전한 답을 통과시켰으며, 어떤 과제 설명은 아예 엉뚱한 방향을 가리켰다. 오픈라이브러리(OpenLibrary) 프로젝트에서 나온 한 사례에서는 과제 설명이 공백 한 칸을 요구했지만 숨은 테스트는 두 칸을 기대했다. 지시를 정확히 따른 AI가 오히려 실패하는 구조였다.
문제의 뿌리는 과제의 출신에 있다. 이 과제들은 실제 소프트웨어 프로젝트의 커밋 히스토리에서 뽑혔고, 원래 사람들 사이의 협업을 위해 작성된 것이지 AI 모델을 평가하려고 설계된 것이 아니었다. 오픈AI는 그런 프로젝트에서 나온 테스트가 특정한 변경 하나를 검증하려고 만들어졌을 뿐 범용 요구 조건으로는 지나치게 엄격해지는 경향이 있다고 설명했다. 사람에게는 자연스러운 맥락 보정이, 문자 그대로 판정하는 시험지에서는 함정이 되는 것이다.
수치가 곧 마케팅이 된 구조
공개 버전의 SWE-Bench Pro는 731개 과제로 구성돼 있고, 상위 모델의 정확도는 단 8개월 만에 23.3%에서 80.3%로 뛰었다. 짧은 기간에 점수가 세 배 넘게 오르는 곡선은 곧잘 ‘급격한 능력 향상’의 증거로 인용됐다. 그러나 시험지의 약 3분의 1이 잘못돼 있었다면, 그 상승 곡선이 실력의 향상인지 시험의 허점을 파고든 결과인지 구분하기 어려워진다. SWE-Bench Pro 자체가 오픈AI가 비슷한 이유로 이미 폐기했던 구버전 SWE-bench Verified를 대체하려고 나온 것이었다는 점은, 이 문제가 특정 시험 하나의 사고가 아니라 반복되는 구조적 결함임을 시사한다.
더 근본적인 문제는 벤치마크가 마케팅 언어로 흡수됐다는 데 있다. 같은 시기 신모델들은 SWE-Bench Pro 점수를 경쟁력의 근거로 앞세웠다. 예컨대 xAI가 내놓은 그록 4.5는 이 시험에서 64.7%를 기록해 일부 설정의 오퍼스 4.8을 앞선다고 제시됐고, 페이블 5의 80.4%가 최상단 기준선으로 인용됐다. 이런 숫자는 성능표에 나란히 놓여 ‘어느 모델이 더 낫다’는 서사를 만든다. 시험지에 오류가 섞여 있는 한, 그 성능표는 실력의 순위표라기보다 시험 취약점에 대한 적응력의 순위표에 가까울 수 있다.
실제로 독립 분석 업체 아티피셜 애널리시스(Artificial Analysis)는 6월 중순 이미 SWE-Bench Pro를 코딩 에이전트 지수에서 제외하고, 데이터커브(Datacurve)의 DeepSWE로 교체했다. 이유는 이 시험이 ‘조작 가능’하다는 것이었다. 일부 모델이 과제를 실제로 풀지 않고 프로젝트의 커밋 히스토리에서 정답을 그대로 베껴 온 정황이 확인됐다. 시험 문제가 공개 저장소에서 왔으니, 그 저장소의 정답 커밋도 함께 노출돼 있던 셈이다. 지표를 만든 방식 자체가 컨닝의 통로를 열어 둔 구조였다.
수치를 믿고 모델을 고르는 한국 기업이 해야 할 일
이번 사건이 남기는 실질적 파장은 세 층위로 나뉜다. 첫째는 안전성 평가다. 오픈AI는 이런 시험 결과가 모델을 출시할지 여부와 방법을 정하는 판단, 그 가운데 준비성 프레임워크(Preparedness Framework)에 따른 안전성 평가에도 반영된다고 밝혔다. 시험에 오류가 있으면 AI가 실제로 무엇을 할 수 있는지에 대한 그림이 왜곡되고, 그 왜곡된 그림 위에서 안전 판단이 내려진다. 벤치마크의 신뢰 문제가 성능 홍보를 넘어 위험 관리의 문제로 번지는 지점이다.
둘째는 구매 결정이다. 벤치마크 수치는 이미 기업이 어떤 모델을 도입할지 저울질하는 실질적 근거로 쓰이고 있다. 점수 몇 점 차이, 가격 대비 성능 비교표가 계약을 좌우한다. 그런데 그 비교표의 바탕이 되는 시험지가 3분의 1가량 결함이라면, 표에 찍힌 소수점 차이는 의사결정의 근거로서 무게를 잃는다. 특히 국내 기업이 해외 벤치마크 순위표를 그대로 들여와 도입 모델을 정하는 관행이라면, 이번 일은 그 관행을 재점검하라는 신호로 읽힌다.
그렇다면 무엇을 해야 하는가. 관건은 남의 시험지를 믿는 대신 자기 시험지를 갖는 것이다. 공개 벤치마크 순위는 후보를 좁히는 1차 필터로만 쓰고, 최종 선택은 자사의 실제 업무 데이터로 만든 비공개 평가에서 갈라야 한다. 오픈AI가 결함으로 지목한 네 유형—지나친 엄격함, 모호함, 허술함, 잘못된 지시—은 사내 평가 세트를 설계할 때 그대로 피해야 할 체크리스트가 된다. 정답이 인터넷에 공개돼 있지 않은 과제, 사람 전문가가 채점 기준을 검수한 과제라야 컨닝과 과적합을 막을 수 있다.
물론 반대 시각도 있다. 결함을 스스로 찾아내 공개하고 자신의 보증을 철회한 것은, 벤치마크 생태계가 자정 능력을 갖췄다는 긍정적 신호로도 읽을 수 있다. 오픈AI가 특정 대체 시험을 지정하지 않고, 대신 숙련 개발자가 만들고 조작하기 어려우며 실제로 의미 있는 새 벤치마크를 업계가 함께 구축하자고 요청한 대목은 이 방향에 힘을 싣는다. 다만 자정의 계기가 마련됐다는 것과 대안이 실제로 자리 잡았다는 것은 다른 문제다. 아직 공백을 메울 표준이 없는 지금, 어떤 단일 숫자도 액면 그대로 믿어서는 안 된다는 점만은 분명해졌다.
결국 이번 일은 ‘AI가 얼마나 잘하는가’라는 질문 자체가 얼마나 취약한 도구 위에 서 있었는지를 드러냈다. 점수가 오른 만큼 능력이 올랐다고 단정하기 전에, 그 점수를 만든 시험지가 무엇을 재고 있었는지부터 물어야 한다는 것이 이번 사건의 가장 큰 교훈이다. 당분간 벤치마크는 마케팅 문구가 아니라 검증해야 할 주장으로 취급될 전망이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
