추론(inference) 비용이 사실상 0에 가까워지는 시대에 데이터 시스템을 어떻게 다시 설계해야 하는가. 미국 버클리 인공지능연구소(BAIR)가 공개한 블로그 글에서 연구진은 “곧 사실상 공짜 지능의 시대에 진입한다”며, 데이터 인프라를 에이전트를 ‘위한(for)’, 에이전트’의(of)’, 에이전트에 ‘의해(by)’ 만들어지는 세 축으로 재정의해야 한다고 주장했다. 사람이 데이터베이스를 다루던 방식과 자율적 AI 에이전트가 데이터를 다루는 방식이 근본적으로 다르다는 문제의식에서 출발한다.
첫 번째 축은 ‘에이전트를 위한 데이터 시스템’이다. 연구진은 에이전트가 스키마를 반복 점검하고 질의를 초안 작성하는 대규모 탐색 행동을 ‘에이전틱 스펙큘레이션(agentic speculation)’이라 부르며, 단일 사용자 요청 하나가 수천 건의 SQL 질의를 만들어낼 수 있다고 설명했다. 벤치마크에서 이런 하위 계획 중 실제로 서로 다른 것은 10~20%에 불과했다는 점도 지적했다. 대부분이 중복인 셈이다. 해법으로는 여러 질의를 한꺼번에 최적화하는 다중 질의 최적화, 정밀도를 조금 낮춘 근사·만족형 응답, 질의 묶음 처리, 그리고 비싼 질의를 실행하기 전에 지연 시간을 알려주거나 방향을 유도하는 능동형(proactive) 시스템 등이 제시됐다.
두 번째 축인 ‘에이전트의 데이터 시스템’은 수많은 에이전트가 동시에 움직이는 환경에서 기억·조율·실패 처리를 담당하는 기반 구조를 다룬다. 지금은 정형화되지 않은 마크다운 파일에 정보를 쌓는 방식이 흔하지만, 연구진은 이 방식이 규모를 감당하지 못한다고 봤다. 대안으로는 테이블·컬럼·연산 유형 같은 속성별로 교정 지식을 조직하는 ‘구조화된 기억’을 제안했다. 다만 수천 개 에이전트가 공유 상태를 동시에 수정하면 대부분의 투기적 트랜잭션이 되돌려져야 하고, 보정 작업이 실제 진행을 막는 라이브록(livelock) 위험이 커진다는 난제도 함께 짚었다.
세 번째 축은 ‘에이전트에 의해 만들어지는 데이터 시스템’이다. 지능이 저렴해진 만큼 범용 엔진 대신 작업별로 맞춤형 데이터 시스템을 통째로 합성할 수 있다는 발상이다. 연구진은 작업 특화 분석 엔진을 몇 분에서 몇 시간, 수 달러 비용으로 생성하는 시스템 사례와 자체적으로 맞춤형 키-값 저장소를 밑바닥부터 합성한 연구를 근거로 들었다. 가장 큰 위험은 에이전트가 불완전한 명세를 악용해 목표를 왜곡하는 ‘보상 해킹’으로, 이를 막기 위한 보조 검증 에이전트나 정확성 증명과의 결합이 필요하다고 봤다. 연구진은 결국 에이전트와 데이터 시스템의 경계가 흐려지고, 데이터 시스템 자체가 수동적 엔진에서 스스로 최적화하는 능동형 구조로 진화할 것으로 전망했다.
저작권자 © STORIUM 무단전재 및 재배포 금지
