AI 증류 공격이란? 앤트로픽 클로드를 노린 중국 기업들

미국 앤트로픽(Anthropic)이 자사 AI 모델 Claude를 대상으로 한 중국 기업들의 대규모 데이터 탈취를 공식 폭로하면서, AI 보안과 기술 주권 논란이 전 세계적으로 불붙었습니다. 

 

모델 증류 공격, 쉽게 말하면 뭔가요?

모델 증류(Model Distillation)는 원래 합법적인 AI 기술입니다.

강력한 대형 AI 모델(교사 모델)의 출력 결과를 소형 모델(학생 모델)이 반복 학습해 비슷한 성능을 갖추도록 훈련하는 방식이죠.

연구 목적으로는 얼마든지 활용할 수 있는 정당한 기법입니다.

문제는 이걸 허락 없이, 대규모로, 경쟁사 모델에 불법 적용할 때입니다.

쉽게 말해, 경쟁사의 AI에 수천만 건의 질문을 퍼붓고 그 답변 전체를 긁어가 자기 모델 훈련에 써버리는 것입니다.

기술 개발 비용을 들이지 않고도 경쟁사의 핵심 역량을 복제할 수 있다는 점에서, 이건 단순한 규약 위반을 넘어 기술 절도에 가깝습니다.

앤트로픽이 이번에 공개한 데이터에 따르면, 중국 AI 기업 DeepSeek, Moonshot AI, MiniMax 세 곳이 24,000개의 가짜 계정을 동원해 Claude와 1,600만 건 이상의 교환을 생성했습니다. 단순한 사용이 아니라, 체계적으로 설계된 공격 캠페인이었습니다.

 

실제 공격 규모: 숫자로 보는 충격

기업	교환 건수	주요 타겟	특이 사항
DeepSeek	15만 건 이상	추론·보상 모델·검열 회피	연구자 IP 동기화 트래픽
Moonshot AI	340만 건 이상	에이전트·코딩·컴퓨터 비전	수백 계정 분산, 직원 메타데이터 일치
MiniMax	1,300만 건 이상	코딩·도구 오케스트레이션	신모델 출시 24시간 내 트래픽 집중

 

특히 MiniMax의 경우, 자사 신모델 출시 직전 24시간 안에 트래픽이 폭발적으로 몰렸다는 점이 눈에 띕니다.

우연이 아니라 출시 직전 마지막 훈련 데이터를 급하게 수집한 정황으로 해석됩니다.

이들 기업은 중국 내 접근 제한을 피하기 위해 프록시 서비스 '하이드라 클러스터'를 활용했으며, OpenAI와 Google도 유사한 공격을 받은 것으로 알려졌습니다. 2026년 2월 현재, 이 문제는 특정 기업 한두 곳의 피해가 아닌 산업 전체의 구조적 위협으로 번지고 있습니다.

 

왜 위험한가? 안전 가드레일이 사라집니다

불법 증류로 만들어진 모델이 단순히 성능을 베꼈다면 그나마 다행입니다.

진짜 문제는 따로 있습니다. 원본 모델에 탑재된 안전 장치(Safety Guardrails)가 함께 복제되지 않는다는 점입니다.

생물무기 제조 방법 차단, 사이버 공격 유도 방지 같은 핵심 안전 기능들이 증류 과정에서 누락되거나 약화됩니다.

앤트로픽은 이렇게 만들어진 모델이 군사·감시 시스템에 악용될 수 있다고 공식 경고하고 있습니다.

단순한 저작권 분쟁이 아니라 국가 안보 차원의 문제인 이유가 여기 있습니다.

한국도 예외가 아닙니다. 구글 보고서에 따르면 아시아 전반에서 모델 추출 공격 사례가 증가하는 추세이며, 국내 AI 개발사들도 유사한 위협에 노출될 가능성이 있습니다.

 

앤트로픽은 어떻게 대응하고 있나?

앤트로픽은 이번 사태를 계기로 다음과 같은 대응 전략을 공개했습니다.

• 탐지 강화: 행동 지문 채취 및 패턴 분류기 고도화로 비정상 트래픽 조기 식별
• 정보 공유: 탐지 지표를 다른 AI 연구소, 클라우드 사업자, 정부 당국과 공유
• 접근 제어: 계정 검증 절차 강화 및 의심 계정 출력 품질 저하 조치 적용

미국 정부의 반도체 수출 통제 정책도 지지 입장을 밝혔으며, 기술 보안은 기업 혼자 해결할 수 없고 산업 전체의 협력이 필수라는 점을 강조하고 있습니다.

전문가들은 추가 방어 수단으로 워터마킹 기법, 차등 프라이버시 적용, 출력 패턴 주기적 업데이트 등을 권고합니다.

 

AI 사용자라면 알아두면 좋은 실전 팁

증류는 합법적으로 쓰면 효율적인 기술이지만, 악용 시 약관 위반이자 법적 책임을 질 수 있습니다.

AI를 개발하거나 서비스에 적용하는 분이라면 다음을 체크해 보세요.

• 프롬프트 패턴을 다양화해 대량 반복 수집 흔적 남기지 않기
• API 사용 로그를 주기적으로 모니터링해 비정상 접근 여부 확인
• 오픈소스 모델 활용 시 배포된 버전의 안전 점검 여부 반드시 확인

AI 기술이 빠르게 발전할수록, 그 이면의 보안 위협도 정교해지고 있습니다. 모델 증류 공격은 AI 기술 경쟁의 어두운 단면이지만, 제대로 알고 대비하면 충분히 관리할 수 있는 위협이기도 합니다. 앞으로도 AI 보안 트렌드, 꾸준히 살펴보겠습니다.