구글 ‘Gemini Decisions API’ 공개…AI 업무 자동화가 생성에서 판정으로 확장

inxight

  • 생성형AI
  • Gemini
  • AI API
  • 업무자동화
  • 멀티모달

오늘의 핵심

구글이 정해진 선택지를 확률과 신뢰도 점수로 판정하는 Gemini Decisions API를 공개했다. 고객문의 분류, 정책 점검, 모델 라우팅처럼 반복되는 운영 판단을 빠르게 자동화할 수 있지만, 실제 적용 전 정확도와 임계값, 데이터 처리 조건을 검증해야 한다.

확인된 사실

  • 구글은 정해진 조건에 대한 예·아니요, 복수 선택, 단계별 점수를 반환하는 Gemini Decisions API와 전용 모델 Gemini Decision 1을 공개했다.

    근거 [1] [2]

  • 이 API는 텍스트·이미지·음성·영상·PDF를 함께 입력받고, 하나의 요청에서 최대 1,000개의 독립된 질문을 평가할 수 있다.

    근거 [1] [2]

  • 공개 가격은 입력 100만 토큰당 0.10달러이며 출력 토큰은 과금하지 않는다.

    근거 [1] [2]

  • 반환된 확률과 신뢰도 점수를 기준으로 불확실한 사례를 사람의 검토나 별도 모델로 보내는 운영 흐름을 설계할 수 있다.

    근거 [1] [2]

  • 벤처비트가 인용한 독립 평가에서 이 모델은 출시 시점 18개 모델 중 9위였고, 일부 문서·도구 선택 과제에서는 상위 모델보다 낮은 결과를 기록했다.

    근거 [2]

왜 중요한가

  • 자유문 생성 모델을 호출하던 문의 분류, 정책 위반 점검, 업무 큐 배정 등을 구조화된 판정 API로 분리하면 응답 형식 파싱과 재시도 부담을 줄일 수 있다.

  • 같은 자료에 여러 검사항목을 한 번에 적용할 수 있어 상담 기록, 계약서, 상품 이미지처럼 멀티모달 자료를 다루는 운영 조직의 자동화 설계 선택지가 넓어진다.

  • 신뢰도 점수가 제공되더라도 실제 정확도는 업무와 데이터에 따라 달라지므로 완전 자동화보다 사람 검토가 포함된 단계적 도입이 필요하다.

inxight의 관점

  • 이번 발표의 핵심은 더 큰 생성 모델이 아니라 ‘생성할 필요가 없는 판단’을 별도 계층으로 분리할 수 있게 됐다는 점이다. 제품팀은 생성, 검색, 판정을 각각 다른 모델과 비용 구조로 설계할 수 있다.

  • 신뢰도는 정답 보증이 아니라 라우팅 신호다. 서비스별 오류 비용을 기준으로 자동 승인, 추가 모델 확인, 사람 검토의 임계값을 각각 정해야 한다.

  • 고객 데이터로 시험할 때는 무료·유료 이용 조건, 로그 보관, 데이터 활용 범위를 먼저 확인해야 한다.

실무 체크리스트

  • 최근 실제 문의나 운영 기록에서 반복되는 예·아니요, 분류, 점수화 판단 1개를 선정해 소규모 검증 세트를 만든다.
  • 현재 생성형 모델 기반 분류 방식과 정확도, 처리시간, 호출비용, JSON 파싱 실패율을 동일 조건에서 비교한다.
  • 신뢰도 구간별 오답률을 측정한 뒤 자동 처리와 사람 검토를 나누는 임계값을 정한다.
  • 질문 간 선후관계가 필요한 업무는 한 번의 호출에 넣지 말고 애플리케이션 단계나 후속 호출로 분리한다.
  • 실제 고객 정보를 투입하기 전에 사용 요금제별 데이터 처리 및 보관 조건을 검토하고 민감정보 제거 방식을 확정한다.