본문으로 바로가기
반응형

Claude API에서 모델을 claude-opus-5-5, 요청 최상위 필드를 speed="fast"로 지정하면 Fast mode가 켜집니다. 일반 속도로 돌아가려면 speed 설정을 빼면 됩니다. 이 글은 Messages API 설정을 다룹니다.

Anthropic의 10월 15일 릴리스 노트에 따르면 Opus 5.5 Fast mode는 프리뷰를 벗어났습니다. 별도 접근 신청과 베타 헤더가 필요 없습니다.

속도 설정을 읽는 데 필요한 용어

아래 용어를 구분하면 ‘최대 2.5배’라는 설명을 실제 응답 시간과 혼동하지 않을 수 있습니다.

용어의미

OTPS 초당 생성하는 출력 토큰 수
TTFT 요청 후 첫 토큰이 나올 때까지의 시간
effort 응답에 들이는 작업량을 조절하는 설정

Anthropic은 Fast mode가 같은 모델의 지능·기능을 유지하면서 추론 구성을 바꾼다고 설명합니다. 최대 2.5배는 출력 토큰 처리율 기준이며, 첫 응답이나 전체 작업이 그만큼 빨라진다는 보장은 없습니다. effort를 낮추는 설정과도 구별해야 합니다.

요청 필드로 켜고 적용 결과 확인하기

기존 Messages API 요청에 아래 두 필드를 최상위 항목으로 지정합니다. 아래는 공식 문서 기반의 설정 발췌 예제이며, 실행 미검증입니다. 전체 요청 본문이 아니므로 기존 메시지 등 나머지 필드는 유지하세요.

{
  "model": "claude-opus-5-5",
  "speed": "fast"
}

speed는 messages 안이 아니라 model과 같은 위치에 둡니다. 성공 응답의 usage.speed로 적용 결과를 확인하세요. 일반 속도로 요청하려면 요청 본문에서 speed 필드를 생략합니다.

추가 비용을 낼 만한 작업인가

Anthropic 가격 문서의 Opus 5.5 기본 단가는 다음과 같습니다. 단위는 미국 달러이며 100만 토큰당 요금입니다.

모드입력출력

일반 $4 $20
Fast $8 $40

Fast의 기본 입력·출력 단가는 각각 두 배입니다. 캐시와 데이터 위치 등 별도 조건이 있어 최종 청구액까지 항상 두 배라고 계산해서는 안 됩니다. Claude 앱 구독료와도 별개입니다.

작업별로는 다음 기준을 권합니다. 실제 속도 측정 결과가 아닌, 출력 처리율과 요금을 바탕으로 한 선택 제안입니다.

  • 사용자가 긴 답변이나 코드 생성을 기다리는 기능: Fast로 줄어드는 대기 시간과 추가 비용을 비교합니다.
  • 비용이 우선이거나 완료를 기다릴 필요가 적은 작업: 일반 모드부터 사용합니다. Batch API는 Fast mode와 병용할 수 없습니다.
  • 첫 응답이 늦어 불편한 기능: TTFT를 따로 측정합니다. 출력 처리율만으로 개선 여부를 판단하기 어렵습니다.

429가 나오면 재시도 정책 확인하기

Fast mode는 일반 모드와 별도 한도를 사용합니다. Start·Build·Scale 티어에는 기본 한도가 제공되며, Evaluation 티어는 상위 티어 전환이 필요합니다.

한도 초과 시 429와 retry-after를 확인하세요. SDK는 기본적으로 최대 두 번 재시도하므로, 오류가 나자마자 일반 속도로 전환하려면 최초 요청의 max_retries=0 설정과 예외 처리가 필요합니다. 이 옵션은 다른 일시 오류의 재시도에도 영향을 줍니다.

일반 모드로 자동 전환된다고 가정하지 마세요. 대기할지, speed를 뺀 요청을 다시 보낼지 애플리케이션에서 정해야 합니다.

적용 전에는 같은 입력·모델·effort 조건으로 두 모드를 비교해 보세요. 첫 토큰 시간과 총 소요 시간, 토큰 수·비용·오류율을 기록하면 서비스에서 감수할 만한 비용인지 판단할 수 있습니다.

참고 링크

반응형