미 당국, AI 모델 증류 공격 경고…API 사업자의 탐지 공조가 중요해졌다

오늘의 핵심

미국 사이버·정보·수사 당국이 중국계 AI 기업들의 대규모 모델 증류 활동을 경고했다. 한국의 AI API·클라우드·중개 플랫폼도 계정 단위 제한만으로는 부족하며, 분산 호출 탐지와 사업자 간 위협정보 공유 체계를 점검할 필요가 있다.

확인된 사실

• NSA·FBI·CISA는 9월 8일 중국계 AI 기업들이 미국 프런티어 모델의 기능을 추출하려는 산업적 규모의 모델 증류 활동을 벌였다고 발표했다. 근거 [1] [2]
• 당국은 이러한 활동이 모델 제공사와 클라우드, API 중개사 등 여러 사업자에 분산돼 개별 사업자의 단일 관측만으로 탐지하기 어렵다고 설명했다. 근거 [1]
• 미 당국이 지목한 대상은 DeepSeek·Moonshot AI·Alibaba 등 6개 중국계 기업이며, 표적으로 언급된 모델에는 Anthropic·OpenAI·Google·SpaceX 계열이 포함됐다. 근거 [2]
• 공식 권고는 이상 프롬프트·계정·네트워크·사용 패턴의 탐지 강화와 모델·클라우드·API 사업자 간 위협정보 공유 확대를 제시했다. 근거 [1]

왜 중요한가

• 한국의 AI 서비스도 해외 모델 API, 클라우드 계정, 재판매·중개 계층을 함께 사용하므로 분산된 대량 호출이 정상 고객 트래픽처럼 보일 수 있다.
• 모델 출력은 데이터 유출 방지 체계가 다루던 입력 데이터와 다른 자산이다. 호출량뿐 아니라 요청의 반복성·범위·계정 간 유사성을 함께 관측해야 한다.
• 공격 자동화로 계정 생성과 호출 경로 변경이 빨라지면 인증, 과금, 부정사용 탐지 조직이 분리된 사업자는 대응 지연을 겪을 수 있다.

inxight의 관점

• 모델 증류 방어는 단순한 호출량 제한이 아니라 제품 분석과 보안 관제의 결합 문제다. 계정·조직·결제수단·IP·프롬프트 유사도를 연결해 캠페인 단위로 판단해야 한다.
• API 중개사와 멀티클라우드 구조에서는 각 사업자의 로그만으로 전체 패턴을 볼 수 없다. 개인정보와 영업비밀을 노출하지 않는 최소 위협 신호의 공유 규격이 필요하다.
• 오탐으로 정상적인 연구·평가·대량 업무를 차단하지 않도록 위험 점수, 추가 인증, 속도 제한, 수동 검토를 단계적으로 적용하는 운영 설계가 적절하다.

실무 체크리스트

• 최근 30일 AI API 로그에서 신규 계정의 급격한 호출 증가, 유사 프롬프트 반복, 다수 계정의 동일 결제·네트워크 연계를 점검한다.
• 계정별 호출 제한 외에 조직·결제수단·네트워크·프롬프트 군집을 묶는 캠페인 단위 탐지 규칙을 추가한다.
• 의심 활동에 즉시 차단만 적용하지 말고 속도 제한, 추가 인증, 출력 축소, 보안 검토로 이어지는 단계별 대응 절차를 마련한다.
• 클라우드·API 중개 파트너와 공유할 수 있는 최소 위협 신호, 신고 창구, 긴급 대응 담당자를 문서화한다.