오늘의 핵심
한국인터넷진흥원이 AI 에이전트의 자율 실행과 외부 시스템 접근에 따른 위험을 다루는 보안 가이드 개정을 추진한다. 웹·앱 운영사는 최종 지침을 기다리기보다 권한 통제와 실행 기록, 사람의 승인 절차를 선제적으로 점검할 필요가 있다.
확인된 사실
왜 중요한가
AI 에이전트가 결제, 고객정보, 코드 저장소, 관리자 기능에 연결되면 챗봇보다 훨씬 큰 실행 권한을 갖게 된다.
향후 가이드가 제시할 점검 항목은 공공·민간 발주서와 보안 검수 기준에 반영될 가능성이 있어 지금의 제품 구조와 운영 절차에도 영향을 줄 수 있다.
서비스 제공자는 모델 성능뿐 아니라 에이전트가 무엇을 실행했고 누가 승인했는지를 입증할 운영 기록이 필요해진다.
inxight의 관점
핵심은 AI 모델 자체를 막는 것이 아니라 에이전트의 신원, 권한, 도구 호출, 데이터 접근을 각각 통제하는 제품 구조를 만드는 데 있다.
고위험 작업은 실행 전 사람의 승인을 요구하고, 읽기와 쓰기 권한을 분리해야 사고 범위와 책임 소재를 줄일 수 있다.
향후 지침 변경에 빠르게 대응하려면 보안 규칙을 모델 프롬프트가 아닌 별도의 정책·권한 계층으로 관리하는 편이 유리하다.
실무 체크리스트
- 운영 중이거나 도입 예정인 AI 에이전트별로 접근 데이터, 연결 도구, 실행 가능한 작업과 서비스 계정을 목록화한다.
- 결제·삭제·배포·권한 변경·개인정보 반출에는 사람의 사전 승인과 재인증 절차를 적용한다.
- 에이전트의 입력, 도구 호출, 승인자, 실행 결과를 추적할 수 있는 감사 로그와 이상행동 경보를 점검한다.
- 에이전트별 최소 권한과 단기 자격증명을 적용하고 긴급 중지·접근 차단 절차를 실제로 시험한다.
- KISA 개정안 공개 후 현재 통제 항목과 공식 점검표의 차이를 비교해 발주서와 운영정책에 반영한다.