미국, 주요 AI 기업과 자율 안전협약 체결…외부 감사 포함

오늘의 핵심

미국 정부와 6개 주요 AI 기업이 내부 통제와 외부 검토를 포함한 자율 안전협약을 체결했다. 법적 강제력은 없지만, 해당 기업의 모델을 도입한 한국 사업자는 공급사 검증과 계약상 안전 기준을 점검할 필요가 있다.

확인된 사실

• 미국 정부와 Anthropic, Google, Meta, OpenAI, Nvidia, xAI 등 6개 AI 기업은 2026년 9월 29일 자율 안전협약을 체결했다. 근거 [1] [2]
• 협약은 AI 개발 과정의 내부 통제와 외부 검토를 안전 관리 수단으로 제시한다. 근거 [1] [2]
• 이번 합의는 법적 강제 규제가 아니라 참여 기업의 자율 이행에 의존한다. 근거 [1] [2]
• 미국의 AI 안전정책이 당장은 기업 주도의 자율 관리에 무게를 두고 있다는 신호로 해석할 수 있다. 근거 [1] [2]

왜 중요한가

• 협약 참여 기업의 모델과 API는 한국 웹·앱 서비스에서도 널리 활용될 수 있어, 각 기업의 안전 통제나 외부 검토 방식 변화가 공급사 평가에 영향을 줄 수 있다.
• 자율협약에는 법적 집행력이 없으므로 서비스 운영자는 공급사의 참여 사실만으로 안전성과 규제 대응이 보장된다고 간주해서는 안 된다.
• AI 공급사의 통제 절차가 구체화되면 기업 고객의 계약서, 보안 심사, 사고 통지 요구에도 새로운 기준으로 반영될 가능성이 있다.

inxight의 관점

• 이번 협약은 한국 사업자에게 직접 적용되는 법규가 아니라 공급망 관리 신호에 가깝다. 따라서 규제 준수 완료로 해석하기보다 AI 공급사 실사 항목을 구체화하는 참고 기준으로 활용해야 한다.
• 외부 감사 여부보다 감사 범위, 수행 주체의 독립성, 결과 공개 수준과 결함 시정 절차를 확인하는 것이 실제 서비스 위험 관리에 더 중요하다.
• 한 공급사의 자율 기준에만 의존하지 않도록 모델 교체 가능성, 데이터 이전성, 장애·정책 변경 시 대체 경로를 제품 설계에 포함할 필요가 있다.

실무 체크리스트

• 사용 중인 생성형 AI와 에이전트 공급사가 협약 참여 기업인지 확인하고 내부 통제·외부 검토 관련 공개 문서를 수집한다.
• 신규·갱신 계약에 안전성 평가 자료 제공, 중대한 사고 통지, 하위 처리업체 공개와 시정조치 의무를 반영할 수 있는지 검토한다.
• 고위험 기능별로 모델 출력 검증, 사람의 승인, 권한 제한, 로그 보존과 비상 중단 절차가 작동하는지 점검한다.
• 특정 AI 공급사의 정책 변경이나 서비스 중단에 대비해 모델 교체와 데이터 이전 절차를 문서화한다.