사티아 나델라(Satya Nadella) 마이크로소프트(Microsoft) 최고경영자가 사내 임원이 작성한 AI 에이전트 ‘중독성 설계’ 제안서를 공개적으로 비판하며 논란이 일었다. 더 인포메이션(The Information) 보도에 따르면, 나델라는 최고위 엔지니어 약 50명에게 “이 문서가 무엇인지, 누가 작성해 유출했는지 모르겠다. 이런 방향을 원한다면 다른 곳에서 일하는 것을 고려하기 바란다”는 내용의 메시지를 보냈다.
문제가 된 문서는 마이크로소프트 부사장 오마르 샤힌(Omar Shahine)이 작성한 것으로, 404 미디어(404 Media)가 먼저 보도했다. 이 메모는 회사의 신규 AI 에이전트 스카우트(Scout)를 중독성 앱에서 에이전틱 플랫폼으로 발전시키는 3단계 계획을 담고 있었다. 스카우트는 마이크로소프트 빌드(Build) 컨퍼런스에서 공개된 에이전트로, 오픈소스 소프트웨어 오픈클로(OpenClaw)를 기반으로 한다.
나델라는 AI의 목적이 사용자를 기기에 묶어두는 것이 아니라 실질적 가치를 창출하고 사용 시간을 줄이는 방향이어야 한다고 강조했다. 마이크로소프트 대변인 프랭크 쇼(Frank Shaw)도 스카우트의 목표는 사용자가 업무를 더 효과적으로 처리하도록 돕는 것이며 에이전트와의 상호작용 방식은 사용자가 스스로 선택하고 통제해야 한다고 밝혔다. 소셜미디어 플랫폼이 사용자 참여 시간을 극대화하기 위해 의도적으로 설계된 알고리즘을 활용한다는 비판을 받는 상황에서, 나델라의 이번 발언은 AI 기업이 같은 길을 걷지 않겠다는 공식 입장으로 해석된다.
이번 사안은 AI 에이전트가 본격적으로 소비자 제품에 침투하기 시작한 시점에서 업계가 마주한 설계 윤리 문제를 드러낸다. 이용 시간을 늘리는 ‘인게이지먼트 극대화’는 지난 10여 년간 소셜미디어와 모바일 앱의 핵심 수익 모델이었지만, 과도한 몰입과 중독을 유발한다는 사회적 비판을 받아 왔다. AI 에이전트가 사용자의 업무를 대신 처리하며 일상에 깊숙이 들어올수록, 그 설계 목표를 ‘사용 시간 증대’에 둘지 ‘실질적 가치 창출과 시간 절약’에 둘지가 제품 신뢰도를 가르는 분기점이 될 수 있다. 내부 제안서가 외부로 유출되고 최고경영자가 이를 공개적으로 질책했다는 점은, 빅테크 내부에서도 AI 윤리 방향을 둘러싼 긴장이 적지 않음을 보여주는 대목이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
