인공지능이 인간 엔지니어라면 떠올리지 못할 형태의 라디오 주파수(RF) 칩을 설계했다. 프린스턴대 연구팀은 강화학습(RL)과 역설계(inverse design)를 결합한 2단계 시스템을 개발해 기존 인간 설계 템플릿을 최적화하는 방식을 넘어 회로를 처음부터 자유롭게 구성하도록 했다. 이 과정은 알파고(AlphaGo)가 자기 대전으로 바둑을 학습한 방식과 유사하다. 연구팀은 전통적인 RF 시뮬레이터 대신 전자기 거동을 순간적으로 예측하는 합성곱 신경망(CNN)을 에뮬레이터로 활용했다. 기존 전자기 솔버로 수분~수시간이 걸리던 시뮬레이션을 밀리초 수준으로 단축한 것이다.
무선주파수 집적회로(RFIC) 설계는 맥스웰 방정식, 열역학, 기계적 제약을 동시에 고려해야 하는 고난도 작업으로, 전통적으로 수십 년 경험이 쌓인 전문가에게만 가능한 “어두운 기예(dark art)”로 불렸다. AI가 설계한 칩의 레이아웃은 인간이 설계한 대칭적 패턴과 달리 QR코드처럼 불규칙한 형태였다. 그러나 성능은 달랐다. 2023년 제작한 프로토타입은 30~100GHz 대역폭을 아우르는 광대역 전력 증폭기 분야에서 기록적인 성능과 효율을 달성했다. 기존 인간 설계자들이 직관적으로 택하지 않을 구조에서 더 뛰어난 성능이 나온 것이다.
연구팀은 광범위한 보급을 위해 대규모 공유 데이터셋과 개방형 생태계가 필요하다고 강조했다. 현재 방대한 양의 시뮬레이션 데이터가 비공개 협약(NDA) 뒤에 잠겨 있어 AI 훈련을 제약하고 있기 때문이다. RFIC 설계 자동화가 실현되면 차세대 무선통신 칩 개발 속도를 획기적으로 끌어올릴 수 있다. AI가 인간 설계 패러다임의 경계를 넘어 반도체 설계 영역에서 새로운 가능성을 열어가고 있다는 점에서, 이 연구는 AI 기반 엔지니어링 자동화의 잠재력을 보여주는 사례로 주목받는다.
저작권자 © STORIUM 무단전재 및 재배포 금지
