오늘의 핵심
Notion의 외부 AI 인프라 제공사 Fireworks AI가 침해되면서 일부 워크스페이스의 AI 대화 기록이 노출됐다. 기업은 생성형 AI에 입력된 비밀정보를 점검하고, 외부 모델 사업자의 보관·삭제·사고 통지 체계를 다시 확인해야 한다.
확인된 사실
Notion은 영향을 받은 사용자가 대화에 비밀번호, API 키 또는 다른 자격증명을 입력했다면 이를 교체하도록 안내했다.
근거 [1]
왜 중요한가
AI 기능을 자체 서비스에 붙이면 고객 데이터가 원래 계약 상대뿐 아니라 모델 추론·분석 사업자의 환경에도 전달될 수 있다.
대화 기록은 정형 개인정보가 아니더라도 소스코드, 고객정보, 내부 URL, 접근키가 섞이기 쉬워 유출 시 계정 탈취와 추가 침해로 이어질 수 있다.
데이터 비보관 약정만으로 실제 처리 과정의 임시 저장, 분석용 데이터셋 생성, 사고 통지 지연 위험까지 제거되지는 않는다.
inxight의 관점
AI 공급망을 일반 SaaS 도입과 동일하게 취급해서는 부족하다. 어떤 프롬프트와 응답이 어느 사업자·리전·기능을 거치는지 데이터 흐름도를 별도로 관리해야 한다.
관리 화면의 AI 사용 분석 기능도 새로운 데이터 복제본을 만들 수 있다. 핵심 기능뿐 아니라 분석·평가·모니터링용 데이터셋의 보관 기간과 삭제 절차까지 계약 및 기술 검증 대상에 넣어야 한다.
사용자 교육은 ‘민감정보를 입력하지 말라’는 문구에 그치지 않고 비밀정보 탐지, 입력 차단, 키 자동 폐기 같은 제품 수준의 통제로 연결해야 한다.
실무 체크리스트
- 사내 협업도구와 고객 서비스의 AI 기능 목록을 만들고 프롬프트·응답이 전달되는 모델 제공사와 하위 처리업체를 확인한다.
- 최근 AI 대화 기록에서 API 키, 비밀번호, 토큰, 개인정보가 입력됐는지 점검하고 노출 가능성이 있는 자격증명은 교체한 뒤 관련 세션을 폐기한다.
- AI 입력창에 비밀정보 탐지와 마스킹 정책을 적용하고 운영·개발 환경의 키를 사용자 대화에 붙여 넣지 못하도록 절차를 정비한다.
- 외부 AI 사업자 계약에서 데이터 보관 기간, 학습·분석 목적 재사용, 하위 처리업체, 삭제 검증, 사고 통지 기한을 재점검한다.