AI가 AI 개발을 주도하기 시작했다…에이전트 운영 기준도 바뀐다

오늘의 핵심

Anthropic은 Claude가 자사 AI 연구개발 업무의 26%를 사람의 감독 아래 주도한다고 밝혔다. 완전 자율 단계는 아니지만, 국내 기업도 AI 에이전트 도입을 생산성 실험이 아닌 권한·감시·승인 체계의 문제로 다뤄야 할 시점이다.

확인된 사실

• Anthropic의 내부 측정에서 Claude는 2026년 8월 기준 AI 연구개발 업무의 26%를 고수준 지시와 사람의 감독 아래 주도했다. 근거 [1] [2]
• Claude가 협업 수준 이상으로 참여하는 연구개발 업무의 비중은 약 90%지만, 완전히 자율적으로 운영되는 것으로 분류된 업무는 아직 없다. 근거 [1] [2]
• Claude가 주도한 연구개발 업무의 비중은 2026년 2월 0% 수준에서 수개월 만에 26%로 높아졌다. 근거 [1] [2]
• Anthropic은 주요 내부 플랫폼에서 약 3만 개의 AI 에이전트가 연구·엔지니어링 업무를 수행하며, 이들의 행동을 감시하는 장치를 운용한다고 밝혔다. 근거 [1] [2]

왜 중요한가

• AI 에이전트가 보조 도구를 넘어 업무 단위를 처음부터 끝까지 수행하는 단계로 이동하면서, 기업의 병목은 모델 성능보다 권한 설정과 검토 체계로 옮겨갈 수 있다.
• 코드 작성·테스트·장애 분석처럼 검증 가능한 업무부터 자동화 비중이 커질 가능성이 있어 웹·앱 개발 조직의 역할과 승인 절차를 다시 설계할 필요가 있다.
• 발표 수치는 Anthropic의 자체 측정이므로 다른 조직에 그대로 적용할 수 없지만, 자동화 수준을 정량적으로 관리하는 기준을 만들었다는 점은 실무적으로 참고할 가치가 있다.

inxight의 관점

• 에이전트 도입 성과를 사용 횟수나 생성 코드량 대신, 사람의 개입 수준과 검증을 통과한 완료 업무 비율로 측정해야 한다.
• 자율화 단계가 높아질수록 운영 권한은 더 좁게 부여해야 한다. 작성과 테스트는 자동화하더라도 배포·삭제·결제·고객 데이터 접근은 별도 승인을 유지하는 구조가 적절하다.
• 자체 모델이 자체 업무를 평가하면 오류가 함께 반복될 수 있다. 다른 모델, 정적 검사, 사람 검토를 조합한 독립 검증층이 필요하다.

실무 체크리스트

• 현재 사용 중인 AI 도구별로 조회·작성·실행·배포 권한을 목록화하고, 사람의 사전 승인이 필요한 작업을 표시한다.
• 에이전트 업무를 보조·협업·주도·자율 단계로 구분하고 작업 성공률, 사람의 개입 횟수, 오류 복구 시간을 월별로 기록한다.
• 프로덕션 배포, 데이터 변경, 외부 메시지 발송에는 이중 승인과 되돌리기 절차를 적용한다.
• 에이전트의 입력, 도구 호출, 산출물, 승인자를 추적할 수 있도록 감사 로그와 이상행동 알림을 구축한다.