최첨단 대형언어모델(LLM)의 생물학적 역량이 기존 안전장치를 앞지를 수 있다는 우려를 다룬 arXiv 프리프린트가 공개됐다. 연구진은 생물위험을 겨냥한 적대적 평가 모델 Intern-BioBreaker와, 모델 수준 스트레스 테스트를 습식실험 검증으로 잇는 계산-실험 통합 틀을 제시했다. 텍스트 응답의 거절 여부를 넘어 유도된 출력이 통제된 실험에서 생물학적 산물로 이어질 수 있는지 확인한 것이 핵심이다. 다만 동료평가 전 결과이며, 공격 템플릿과 구체적 서열은 악용 가능성을 고려해 책임 있게 다뤄야 한다.
연구진은 안전 민감 생물학 과제의 운영 지침이나 잠재적으로 유해한 서열 출력을 끌어내는 표적 jailbreak 프롬프트를 생성했다고 설명한다. 선택된 서열은 DNA 합성, 숙주 발현, 교차 단백질 검증으로 넘겼다. 평가에는 공개 가중치 모델과 상용 LLM, SafeSci-Bio와 SoSBench-Bio가 포함됐다. SafeSci-Bio는 다섯 과제 유형에서 20개씩 총 100개 시험 샘플로 구성했다.
저자들의 Table 1에서 GPT-5.5를 대상으로 Intern-BioBreaker의 공격 성공률(ASR)은 60%였고, 비교 공격 모델보다 최소 25%포인트 높았다. Claude Opus 4.8에서는 26%가 보고됐다. 14개 LLM 평가에서는 SafeSci-Bio와 SoSBench-Bio의 여러 모델이 과제 수준에서 100%에 가깝거나 100%의 ASR을 보였으며 Claude 계열은 상대적으로 더 강한 저항성을 보였다. Qwen-14B의 지도 미세조정은 개선 폭이 제한적이었고, 추가 강화학습도 공격 성능을 일관되게 높이지 못했다.
서열 수준 사례에서 연구진은 GPT-5.5가 병원성 가능성을 지닌 변형 바이러스 후보 서열을 생성하도록 유도될 수 있었다고 보고했다. 대응 단백질은 AlphaFold3 예측에서 pLDDT 70을 넘고 원본보다 낮은 도킹 에너지를 보이는지 평가했으며, 더 강한 수용체 결합 친화도 가능성을 제시했다. 이어 SDS-PAGE와 LC-MS/MS로 발현 단백질의 크기와 아미노산 수준 서열을 확인했다. 이는 선정된 설계가 통제된 조건에서 구현됐다는 뜻이지, 실제 감염성이나 병원성이 입증됐다는 뜻은 아니다.
논문은 텍스트 수준의 안전장치와 실제 생물학적 위험 사이의 간극을 줄이기 위해 강화된 생물학적 레드팀 평가, 핵산 합성 스크리닝, 모델 능력에 맞춘 안전 메커니즘이 필요하다고 결론짓는다. 결과는 특정 벤치마크와 공격 모델에 의존하며, 독립 재현과 동료평가가 남아 있다. 원문과 전체 한계는 DOI 링크에서 확인할 수 있다.
저작권자 © STORIUM 무단전재 및 재배포 금지
