MIT테크놀로지리뷰가 7일(현지시간) 게재한 콘텐츠에서, AI 모델이 빠르게 진화하는 가운데서도 기업이 흔들림 없이 투자할 수 있는 네 가지 AI 아키텍처 기초 요소가 제시됐다. 데이터 분석 기업 일래스틱(Elastic)과의 협업으로 마련된 이번 콘텐츠는 실험 단계에 머무른 AI 프로젝트를 안정적인 프로덕션 배포로 전환하는 데 필요한 조건들을 정리했다.
첫 번째로 꼽힌 요소는 데이터 준비, 즉 데이터 품질이다. 일래스틱 최고정보책임자(CIO) 아드난 아딜은 접근 가능한 데이터의 품질이 곧 모델의 신뢰성을 좌우하며, 품질이 낮으면 사용자가 시스템에 대한 신뢰 자체를 잃게 된다고 말했다. 시장조사업체 가트너는 AI에 활용할 수 있는 수준의 데이터를 갖추지 못하면 2026년까지 기업들이 추진 중인 AI 프로젝트의 60%를 포기하게 될 것이라고 전망한 바 있다.
두 번째는 컨텍스트 엔지니어링이다. 단순히 프롬프트를 다듬는 수준을 넘어, 모델이 작동하는 전체 정보 환경을 설계하는 접근으로 검색증강생성(RAG)과 벡터 데이터베이스 등이 핵심 도구로 꼽힌다. 아딜은 최소한의 컨텍스트, 정확하고 최신 상태의 데이터, 기계가 읽을 수 있는 형태의 정보가 효과적인 컨텍스트 엔지니어링의 필수 조건이라고 설명했다.
세 번째 요소인 거버넌스와 LLM 관찰가능성(observability)은 나중에 덧붙이는 부가 기능이 아니라 설계 단계부터 내장돼야 한다는 점이 강조됐다. 일래스틱이 2026년 발표한 보고서에 따르면 IT 의사결정자의 85%가 사내 생성형 AI 애플리케이션에 LLM 관찰가능성 도구를 도입할 계획이라고 답했다. 아딜은 관찰가능성이 비용 관리와 의사결정, 엔지니어링 효율성 확보에 실질적으로 기여한다고 언급했다.
마지막 요소는 인간 전문성 유지다. 딜로이트가 2025년 실시한 기술 임원 설문조사에서는 응답자의 약 70%가 생성형 AI 도입에 대응해 오히려 팀을 확장할 계획이라고 답했다. 아딜은 사람이라는 요소가 앞으로 AI를 실질적인 임팩트로 이어지게 만드는 핵심이 될 것이라고 강조했다. 그는 빠르게 변화하는 기술 스택 속에서도 조직이 축적한 제도적 지식과 적응 능력만큼은 지속된다는 점을 이번 콘텐츠의 핵심 메시지로 제시했다.
