오퍼스 5.5 배치 처리, 반값 단가와 대기 시간 함께 따져야
공식 API 문서로 살펴본 비동기 처리의 가격과 요청 한도.
클로드 오퍼스 5.5를 대량 문서 처리에 쓰려는 개발팀은 일반 호출과 배치 처리를 구분할 필요가 있다. 앤트로픽의 공식 배치 API 안내는 오퍼스 5.5의 입력·출력 가격을 각각 100만 토큰당 2달러와 10달러로 제시한다. 모델 사양 페이지의 일반 가격인 4달러·20달러보다 절반 낮다.
배치는 여러 요청을 묶어 비동기로 처리하는 방식이다. 안내에 따르면 각 요청은 독립적으로 실행되며, 결과는 모든 요청의 처리가 끝난 뒤 조회한다. 실시간으로 답변을 받아야 하는 대화보다 대규모 평가나 자료 분석처럼 즉각적인 응답이 필요하지 않은 작업에 맞는 구조다.
할인에는 운영상 차이도 따른다. 배치 하나의 한도는 요청 10만 건 또는 256MB 중 먼저 도달하는 쪽이다. 배치 생성 후 24시간 안에 끝나지 않으면 만료되며, 수요와 요청량에 따라 처리가 늦어질 수 있다고 문서는 설명한다. 스트리밍과 빠른 모드용 speed 매개변수도 배치 요청에서는 지원하지 않는다.
따라서 단가만으로 전체 업무의 비용과 속도를 판단하기는 어렵다. 개발팀은 결과를 기다릴 수 있는 작업을 먼저 분리하고, 실패·만료된 요청을 확인하는 절차까지 설계해야 한다. 이 기사는 9월 26일 확인한 제공사 문서에 근거하며, 실제 처리 속도나 한국어 문서의 정확도를 시험한 결과는 아니다.
프리즘코리아 편집국 > 한민서
