아마존웹서비스(AWS)가 생성형 AI로 만들어진 피싱 이메일을 잡아내는 아마존 베드록(Amazon Bedrock) 기반 탐지 방식을 공개했다. 기존 피싱 필터는 오탈자나 어색한 인사말, 발신 도메인 불일치 등 표면적 특징으로 위협을 걸러냈지만, 생성형 AI와 오픈소스 인텔리전스(OSINT)를 활용한 최근 피싱 메일은 문법이 완벽하고 맥락까지 정교해 기존 필터를 무력화한다는 문제의식에서 출발했다.
아마존에 따르면 최신 사회공학 공격은 전문 네트워크와 기업 웹사이트, 공개된 디지털 흔적을 수집해 조직 구조와 인간관계까지 파악한 뒤 메시지를 개인화한다. 대응 방식으로 제시된 베드록 파이프라인은 발신 인증(SPF·DKIM·DMARC) 이후 단어 선택, 평소 소통 방식과의 편차, 요청 내용의 맥락적 적절성이라는 세 가지 요소를 대규모 파운데이션 모델로 분석한다. 여기에 베드록 가드레일을 적용해 민감정보 유출이나 부적절한 응답을 걸러내면서도, 위협 분석에 필요한 내용은 정상적으로 처리하도록 세밀하게 조정한다.
이 시스템의 핵심은 발신자별 기준선(baseline)을 추적하는 것이다. 평소 짧은 메시지만 보내던 동료가 갑자기 격식을 갖춘 문체로 긴급 송금을 요청하면, 이 변화를 이상 신호로 포착해 담당자에게 전달한다. 분석 결과는 콘텐츠 이상, 행동 편차, 맥락 적합성 세 가지 점수로 산출된 뒤 0~100점의 위험 점수로 합산되며, 이 점수에 따라 정상 수신함 전달, 격리, 완전 차단 중 하나로 자동 분류된다.
아마존은 이 파이프라인이 보안팀의 피드백을 반영해 지속적으로 정교해지는 구조라고 설명했다. 오탐으로 확인된 사례는 발신자 기준선에 반영되고, 확정된 피싱 사례는 향후 판단에 활용되는 예시 데이터베이스에 쌓인다. 아마존은 이러한 행동 기반 탐지가 기존 서명 기반 탐지 체계를 대체하는 것이 아니라 보완하는 역할을 한다고 강조했다. <a href=”https://www.storium.io/b7-how-baz-improved-its-ai-agent-code-review/”>AI 에이전트 활용으로 코드 리뷰 정확도를 높인 바즈</a>의 사례처럼, 클라우드 기반 파운데이션 모델을 보안·검증 업무에 접목하는 시도는 이메일 보안을 넘어 다양한 기업 업무 영역으로 확산되는 추세다.
