양자내성암호(PQC)를 TLS 1.3에 얹는 흐름이 빨라지는 가운데, 한 프리프린트는 그 전환이 방어 측면의 새 부담도 키울 수 있다고 본다. 이 연구는 PQC가 TLS 핸드셰이크 고갈 공격을 얼마나 증폭하는지, 그리고 현재의 딥러닝 기반 침입탐지시스템이 그 환경에서 얼마나 흔들리는지를 함께 검증했다. 실험은 AWS에 배치한 1대의 PQC-TLS 서버와 10대의 공격 노드로 구성한 시험망에서 진행됐다. 벤치마크는 정상 브라우징 트래픽과 고강도 핸드셰이크 공격이 섞인 16.5GB 이상 혼합 트래픽이며, 전통적 TLS와 PQC-TLS 조건을 같은 공격 강도로 맞춰 비교했다. 서버는 PQC 쪽에서 ML-KEM-768과 ML-DSA-65, 기준선에서는 ECDSA P-256과 X25519를 사용했다.
핵심 결과는 자원 소모의 지속 시간이었다. 전통적 TLS에서는 CPU가 50%를 넘는 시간이 17초였지만, PQC-TLS에서는 1,498초로 늘어 최대 88배 차이가 났다. 피크 CPU 사용률도 전통적 TLS 53.7%에서 PQC-TLS 100.0%로 올라갔고, 동시 TCP 연결 수는 최대 34개에서 571개로 증가해 16.8배 차이를 보였다. 공격 강도는 두 조건에서 거의 같았고, 총 연결 시도 수는 전통적 TLS 1억 6,990만 회, PQC-TLS 1억 8,130만 회로 6.7% 차이였다.
탐지 성능도 악화됐다. Exosphere는 전통적 TLS에서 AUC 0.8277, recall 50.18%를 보였고, PQC-TLS에서는 recall이 약 50% 수준에 머물렀다. HyperVision은 PQC 트래픽에서 AU-ROC가 0.49까지 떨어져 무작위 수준에 가까워졌다. 본문은 이런 저하가 PQC 특유의 트래픽 변화와, 기존 학습 데이터셋에 TLS 계층 공격 샘플이 거의 없다는 점이 겹친 결과라고 해석한다.
데이터셋 구성도 자세히 공개됐다. 전통적 TLS PCAP은 31,453,919패킷, PQC-TLS PCAP은 17,081,216패킷이며, 공격 구간의 패킷은 시간표를 기준으로 악성으로 라벨링했다. 전체적으로 악성 패킷 비율은 두 데이터셋 모두 99.998%였고, 연구팀은 공격 시작·종료 시각, 지속시간, 연결 수, 서버 자원 모니터링 데이터와 함께 실험 코드와 AWS 배포 스크립트도 공개했다고 밝혔다.
| 항목 | 전통적 TLS | PQC-TLS | 원문 위치 |
|---|---|---|---|
| Peak CPU Utilization | 53.7% | 100.0% | Table 1 |
| Duration of CPU > 50% | 17s | 1498s | Table 1 |
| Peak Concurrent TCP Connections | 34 | 571 | Table 1 |
| PCAP packets | 31,453,919 | 17,081,216 | Section 4.3 |
자료: STORIUM 정리
결론은 PQC가 암호학적 교체만이 아니라 시스템 전환이라는 점이다. 연구팀은 현재의 IDS가 패킷·흐름 특징에 치우쳐 서버 CPU, 메모리, 연결 큐 같은 텔레메트리를 충분히 보지 못한다고 지적하며, PQC-aware 데이터셋과 자원 상태를 함께 쓰는 탐지법이 필요하다고 정리한다. 반면 실험은 단일 서버 구성과 고정 공격 패턴의 클라우드 환경에 한정됐으며, 이 논문은 동료검토 전 arXiv 프리프린트다.
저작권자 © STORIUM 무단전재 및 재배포 금지
