Notion AI 대화 유출이 드러낸 외부 AI 인프라의 데이터 통제 과제

inxight

  • 생성형AI
  • 공급망보안
  • 데이터유출
  • API키
  • SaaS보안

오늘의 핵심

Notion의 외부 AI 인프라 제공사 Fireworks AI가 침해되면서 일부 워크스페이스의 AI 대화 기록이 노출됐다. 기업은 생성형 AI에 입력된 비밀정보를 점검하고, 외부 모델 사업자의 보관·삭제·사고 통지 체계를 다시 확인해야 한다.

확인된 사실

  • Fireworks AI의 외부 클라우드 환경 침해가 일부 고객 데이터로 확산됐고, 그 안에 Notion AI 대화 기록이 포함됐다.

    근거 [1] [2]

  • 노출 범위는 Notion의 Insights 기능에 사용된 대화 데이터셋이며, Notion은 해당 기능을 중단하고 Fireworks와의 연결을 차단했다.

    근거 [1] [2]

  • 대부분의 노출 기록에는 작성자나 워크스페이스를 직접 나타내는 표지가 없었지만, 대화 본문 자체에 입력된 민감정보까지 안전하다는 뜻은 아니다.

    근거 [1] [2]

  • Notion은 영향을 받은 사용자가 대화에 비밀번호, API 키 또는 다른 자격증명을 입력했다면 이를 교체하도록 안내했다.

    근거 [1]

왜 중요한가

  • AI 기능을 자체 서비스에 붙이면 고객 데이터가 원래 계약 상대뿐 아니라 모델 추론·분석 사업자의 환경에도 전달될 수 있다.

  • 대화 기록은 정형 개인정보가 아니더라도 소스코드, 고객정보, 내부 URL, 접근키가 섞이기 쉬워 유출 시 계정 탈취와 추가 침해로 이어질 수 있다.

  • 데이터 비보관 약정만으로 실제 처리 과정의 임시 저장, 분석용 데이터셋 생성, 사고 통지 지연 위험까지 제거되지는 않는다.

inxight의 관점

  • AI 공급망을 일반 SaaS 도입과 동일하게 취급해서는 부족하다. 어떤 프롬프트와 응답이 어느 사업자·리전·기능을 거치는지 데이터 흐름도를 별도로 관리해야 한다.

  • 관리 화면의 AI 사용 분석 기능도 새로운 데이터 복제본을 만들 수 있다. 핵심 기능뿐 아니라 분석·평가·모니터링용 데이터셋의 보관 기간과 삭제 절차까지 계약 및 기술 검증 대상에 넣어야 한다.

  • 사용자 교육은 ‘민감정보를 입력하지 말라’는 문구에 그치지 않고 비밀정보 탐지, 입력 차단, 키 자동 폐기 같은 제품 수준의 통제로 연결해야 한다.

실무 체크리스트

  • 사내 협업도구와 고객 서비스의 AI 기능 목록을 만들고 프롬프트·응답이 전달되는 모델 제공사와 하위 처리업체를 확인한다.
  • 최근 AI 대화 기록에서 API 키, 비밀번호, 토큰, 개인정보가 입력됐는지 점검하고 노출 가능성이 있는 자격증명은 교체한 뒤 관련 세션을 폐기한다.
  • AI 입력창에 비밀정보 탐지와 마스킹 정책을 적용하고 운영·개발 환경의 키를 사용자 대화에 붙여 넣지 못하도록 절차를 정비한다.
  • 외부 AI 사업자 계약에서 데이터 보관 기간, 학습·분석 목적 재사용, 하위 처리업체, 삭제 검증, 사고 통지 기한을 재점검한다.