AI 산업이 빠르게 성장하면서 관련 용어도 함께 쏟아지고 있다. 제품 회의나 투자 설명회에서 대규모 언어모델(LLM), 검색증강생성(RAG), 인간 피드백 기반 강화학습(RLHF) 같은 표현이 자연스럽게 오가지만, 이 분야에 익숙하지 않은 사람에게는 낯설게 느껴지기 쉽다. 업계 전문가들도 일부 개념은 명확히 합의된 정의가 없다고 인정할 정도로, AI 용어는 계속 진화하는 살아있는 언어에 가깝다.
먼저 가장 널리 회자되는 개념은 인공일반지능(AGI)이다. 오픈AI 샘 올트먼 최고경영자는 AGI를 “동료로 고용할 수 있는 평균적인 인간에 준하는 수준”이라고 설명한 바 있으며, 오픈AI 헌장은 “대부분의 경제적으로 가치 있는 업무에서 인간을 능가하는 고도로 자율적인 시스템”으로 정의한다. 구글 딥마인드는 이를 “대부분의 인지적 과제에서 인간만큼 유능한 AI”로 다소 다르게 규정한다. 정의가 저마다 다르다는 사실 자체가 AGI 개념이 여전히 모호하다는 방증이다. LLM은 챗GPT, 클로드, 제미나이 같은 AI 어시스턴트를 구동하는 핵심 기술로, 수십억 개의 파라미터(가중치)로 이뤄진 심층신경망이 방대한 텍스트 데이터에서 단어와 문장 간 관계를 학습해 언어를 이해하고 생성한다.
실무에서 자주 등장하는 개념으로는 사고연쇄(chain of thought)와 전문가 혼합(MoE)이 있다. 사고연쇄는 복잡한 문제를 여러 단계로 쪼개 풀어나가는 방식으로, 답을 내는 데 시간이 더 걸리지만 논리·코딩 문제에서 정확도를 높이는 데 효과적이다. MoE는 신경망을 여러 개의 전문화된 하위 네트워크로 나누고 과제에 따라 일부만 활성화하는 구조로, 거대한 모델을 상대적으로 빠르고 저렴하게 운용할 수 있게 해준다. 미스트랄AI의 믹스트랄(Mixtral) 모델이 대표적 사례로 꼽힌다. 또한 앤트로픽이 2024년 발표해 이후 리눅스재단에 이관한 모델 컨텍스트 프로토콜(MCP)은 AI가 파일이나 데이터베이스, 슬랙 같은 외부 도구와 연결되는 개방형 표준으로 자리 잡았으며, 오픈AI와 구글, 마이크로소프트도 이를 채택했다.
AI가 사실과 다른 정보를 그럴듯하게 생성하는 ‘환각(hallucination)’ 현상은 여전히 업계의 핵심 과제로 남아 있다. 이는 학습 데이터의 공백에서 비롯되는 것으로 알려져 있으며, 이를 줄이기 위해 특정 영역에 특화된 버티컬 AI 모델 개발이 활발해지는 배경이기도 하다. 최근에는 AI 데이터센터의 메모리 수요 폭증으로 램(RAM) 반도체 품귀 현상을 뜻하는 신조어 ‘래머게돈(RAMageddon)’도 회자되고 있다. 데이터센터 운영에 필요한 메모리 확보 경쟁이 치열해지면서 콘솔 게임기 가격 인상, 스마트폰 출하량 둔화 등 소비자 시장에도 영향을 미치고 있다는 지적이다.
