KISA, 자율형 AI 에이전트 대응 보안 가이드 개정 추진

오늘의 핵심

한국인터넷진흥원이 AI 에이전트의 자율 실행과 외부 시스템 접근에 따른 위험을 다루는 보안 가이드 개정을 추진한다. 웹·앱 운영사는 최종 지침을 기다리기보다 권한 통제와 실행 기록, 사람의 승인 절차를 선제적으로 점검할 필요가 있다.

확인된 사실

• KISA는 지난해 처음 발간한 AI 보안 가이드의 개정판을 개발하고 있다. 근거 [1] [2]
• 개정 가이드는 기업이 에이전틱 AI 서비스를 배포할 때 발생할 수 있는 보안 문제와 위험관리 점검표를 중심으로 구성될 예정이다. 근거 [1]
• 개정 범위에는 AI의 자율 실행 위험뿐 아니라 현실의 장치·기계와 상호작용하는 피지컬 AI의 공통 통제 방안도 포함될 수 있다. 근거 [1] [2]
• AI가 내부 시스템이나 외부 도구에 직접 접근하는 환경에서는 권한 탈취와 오작동이 정보유출 또는 서비스 장애로 확대될 수 있다. 근거 [2]

왜 중요한가

• AI 에이전트가 결제, 고객정보, 코드 저장소, 관리자 기능에 연결되면 챗봇보다 훨씬 큰 실행 권한을 갖게 된다.
• 향후 가이드가 제시할 점검 항목은 공공·민간 발주서와 보안 검수 기준에 반영될 가능성이 있어 지금의 제품 구조와 운영 절차에도 영향을 줄 수 있다.
• 서비스 제공자는 모델 성능뿐 아니라 에이전트가 무엇을 실행했고 누가 승인했는지를 입증할 운영 기록이 필요해진다.

inxight의 관점

• 핵심은 AI 모델 자체를 막는 것이 아니라 에이전트의 신원, 권한, 도구 호출, 데이터 접근을 각각 통제하는 제품 구조를 만드는 데 있다.
• 고위험 작업은 실행 전 사람의 승인을 요구하고, 읽기와 쓰기 권한을 분리해야 사고 범위와 책임 소재를 줄일 수 있다.
• 향후 지침 변경에 빠르게 대응하려면 보안 규칙을 모델 프롬프트가 아닌 별도의 정책·권한 계층으로 관리하는 편이 유리하다.

실무 체크리스트

• 운영 중이거나 도입 예정인 AI 에이전트별로 접근 데이터, 연결 도구, 실행 가능한 작업과 서비스 계정을 목록화한다.
• 결제·삭제·배포·권한 변경·개인정보 반출에는 사람의 사전 승인과 재인증 절차를 적용한다.
• 에이전트의 입력, 도구 호출, 승인자, 실행 결과를 추적할 수 있는 감사 로그와 이상행동 경보를 점검한다.
• 에이전트별 최소 권한과 단기 자격증명을 적용하고 긴급 중지·접근 차단 절차를 실제로 시험한다.
• KISA 개정안 공개 후 현재 통제 항목과 공식 점검표의 차이를 비교해 발주서와 운영정책에 반영한다.