오늘의 핵심
Anthropic은 Claude가 자사 AI 연구개발 업무의 26%를 사람의 감독 아래 주도한다고 밝혔다. 완전 자율 단계는 아니지만, 국내 기업도 AI 에이전트 도입을 생산성 실험이 아닌 권한·감시·승인 체계의 문제로 다뤄야 할 시점이다.
확인된 사실
왜 중요한가
AI 에이전트가 보조 도구를 넘어 업무 단위를 처음부터 끝까지 수행하는 단계로 이동하면서, 기업의 병목은 모델 성능보다 권한 설정과 검토 체계로 옮겨갈 수 있다.
코드 작성·테스트·장애 분석처럼 검증 가능한 업무부터 자동화 비중이 커질 가능성이 있어 웹·앱 개발 조직의 역할과 승인 절차를 다시 설계할 필요가 있다.
발표 수치는 Anthropic의 자체 측정이므로 다른 조직에 그대로 적용할 수 없지만, 자동화 수준을 정량적으로 관리하는 기준을 만들었다는 점은 실무적으로 참고할 가치가 있다.
inxight의 관점
에이전트 도입 성과를 사용 횟수나 생성 코드량 대신, 사람의 개입 수준과 검증을 통과한 완료 업무 비율로 측정해야 한다.
자율화 단계가 높아질수록 운영 권한은 더 좁게 부여해야 한다. 작성과 테스트는 자동화하더라도 배포·삭제·결제·고객 데이터 접근은 별도 승인을 유지하는 구조가 적절하다.
자체 모델이 자체 업무를 평가하면 오류가 함께 반복될 수 있다. 다른 모델, 정적 검사, 사람 검토를 조합한 독립 검증층이 필요하다.
실무 체크리스트
- 현재 사용 중인 AI 도구별로 조회·작성·실행·배포 권한을 목록화하고, 사람의 사전 승인이 필요한 작업을 표시한다.
- 에이전트 업무를 보조·협업·주도·자율 단계로 구분하고 작업 성공률, 사람의 개입 횟수, 오류 복구 시간을 월별로 기록한다.
- 프로덕션 배포, 데이터 변경, 외부 메시지 발송에는 이중 승인과 되돌리기 절차를 적용한다.
- 에이전트의 입력, 도구 호출, 산출물, 승인자를 추적할 수 있도록 감사 로그와 이상행동 알림을 구축한다.