싱가포르 CONTINUUM AI(컨티뉴엄 AI)가 개발한 OpenAI 호환 LLM 게이트웨이 플랫폼 OrcaRouter가 AI 추론 용량을 공동구매해 단가를 낮추는 새로운 요금 체계인 ‘OrcaPool’을 첫 가동한다고 밝혔다.

OrcaPool은 한 주 동안 풀에 참여한 모든 사용자의 해당 모델 사용량을 합산하고, 합산 사용량이 임계값을 넘으면 그 임계값을 넘긴 주체가 아니라 풀에 참여한 모든 팀에 초과분만큼의 할인을 돌려주는 구조다. 참여자가 많아질수록 단가가 내려가며, 첫 대상 모델은 DeepSeek V4 Flash 0731이다.

추론 단가는 왜 낱개로 사면 내려가지 않는가

AI 추론 비용의 대부분은 GPU 용량을 얼마나 오래, 얼마나 크게 확보하느냐에서 결정된다. 클라우드 사업자와 모델 제공자는 수개월 단위 장기 계약(LTA)으로 대량 용량을 확보하는 고객에게 낮은 단가를 제시한다. 문제는 개별 개발자와 소규모 팀이다. 이들에게 클러스터 한 대는 필요하지 않다. 필요한 것은 토큰 몇백만 개뿐이지만, 그 몇백만 개를 낱개로 사는 한 대량 계약 할인은 적용되지 않는다.

OrcaRouter는 이 간극을 수요 집계로 메운다. 개별 구매자로서는 도달할 수 없는 협상력을 사용량을 모아서 확보하고, 그렇게 확보한 단가 인하분을 풀에 참여한 사용자에게 되돌린다는 구상이다.

어떻게 작동하는가

한 주 동안 풀에 참여한 모든 사용자의 해당 모델 사용량이 합산된다. 합산 사용량이 임계값을 넘으면 그 임계값을 넘긴 주체가 아니라 풀에 참여한 모든 팀이 초과분만큼의 할인을 돌려받는다. 마지막 한 토큰으로 문턱을 넘긴 팀만 혜택을 받는 구조가 아니다.

기준 정가: 정가는 입력 100만 토큰당 0.22달러, 출력 0.66달러, 캐시 읽기 0.007달러다. 첫 단계는 이 모델의 정가며, 그 아래 모든 단계는 정가에서 깎는 할인이다.

· 주간 1000억 토큰 돌파 시: 사용액의 10%를 크레딧으로 환급
· 주간 2000억 토큰 돌파 시: 사용액의 15% 환급
· 주간 3000억 토큰 돌파 시: 사용액의 20% 환급

각 단계는 첫 토큰부터 적용되는 요율을 기준으로 표시되므로 이용자는 표시된 할인율이 정가 대비 얼마인지 직접 확인할 수 있다.

참여 방법과 정산

참여를 위한 별도 절차나 추가 구매는 없다. OrcaRouter를 통해 DeepSeek V4 Flash 0731을 호출하면 그 사용량이 자동으로 풀에 합산된다. API 키를 바꾸거나 코드를 수정할 필요도 없다.

정산은 매주 월요일 00시 5분(UTC)에 이뤄지며, 그 시점에 환급 크레딧이 지급된다. 크레딧은 30일간 유효하다. 환급률은 입력 대 출력 3:1 비율을 기준으로 추정되므로 출력 비중이 큰 워크로드는 환급 비중이 상대적으로 작아진다. 정산 주기와 요율은 모델 상세 페이지에서 실시간으로 확인할 수 있다.

첫 번째 풀은 DeepSeek V4 Flash 0731

첫 풀의 대상은 DeepSeek V4 Flash 0731이다. 284B 파라미터에 100만 토큰 컨텍스트를 지원한다. OrcaRouter는 자사 인프라에서 검증을 마친 뒤 풀을 V4.1로 확장하고, 다른 모델에도 순차적으로 같은 구조를 적용할 계획이다.

왜 공동구매인가

AI 추론 시장의 비용 구조는 모델 성능만큼 빠르게 개선되지 않는다. 더 좋은 모델은 계속 나오지만, 그 모델을 실제로 돌리는 단가는 용량을 어떻게 확보하느냐에 좌우된다. OrcaRouter는 이 지점에서 개별 사용자가 아니라 집단이 협상하는 편이 유리하다고 보고, 그 절감분을 참여자에게 배분하는 방식을 택했다. 참여자가 늘어날수록 풀의 협상력이 커지고, 그만큼 환급 여력도 커지는 구조다.

주요 모델

OrcaRouter는 단일 API 키와 엔드포인트로 다음을 포함한 200개 이상의 모델을 제공한다.

· OpenAI GPT-5.5
· Anthropic Claude Fable 5.1
· Google Gemini 3.8 Flash
· DeepSeek V4.1 Flash
· xAI Grok 4.6
· Qwen 3.7 Max
· Z.ai GLM-5.3

참고

· OrcaPool - DeepSeek V4 Flash 0731
· DeepSeek V4 Flash 0731 모델 페이지
· OpenAI GPT-5.5
· Anthropic Claude Fable 5.1
· OrcaRouter 웹사이트

OrcaRouter 소개

OrcaRouter는 OpenAI 호환 LLM 게이트웨이로, 200개가 넘는 모델에 걸쳐 라우팅하며 약 40%의 비용 절감, 1밀리초 미만의 라우팅 오버헤드, 0%의 토큰 마크업을 제공한다. 자체 호스팅 에디션인 OrcaRouter-Lite는 MIT 라이선스로 제공된다.

CONTINUUM AI PTE LTD 소개

Continuum AI Pte. Ltd.는 최첨단 AI를 개발자와 팀이 접근 가능하고 합리적인 비용으로 사용할 수 있도록 하기 위해 설립된 싱가포르 기반 기업이다. 단일 API 키와 엔드포인트를 통해 200개 이상의 선도적인 AI 모델에 대한 액세스를 제공하는 OpenAI 호환 AI Gateway인 ‘OrcaRouter’를 개발한 회사다. OrcaRouter는 약 40%의 비용 절감, 1ms 미만의 라우팅 오버헤드, 토큰 마크업 없음을 제공하며, MIT 라이선스로 출시된 자체 호스팅 버전(OrcaRouter-Lite)도 함께 제공한다.