IT
SDK도 코드도 필요 없다… OrcaRouter, Trace Export로 요청 추적 내보내기 업데이트
컨티뉴엄 AI(CONTINUUM AI)가 개발한 OrcaRouter는 2026년 11월 17일 Logs 화면의 Trace Export를 업그레이드해 요청 추적을 외부 관측 도구로 내보낼 수 있게 했다고 밝혔다. OrcaRouter는 Grafana와 Datadog, Langfuse, LangSmith 등으로 실시간 추적을 보낸다고 설명했다. OrcaRouter는 SDK 설치나 코드 변경 없이 동작한다고 덧붙였다.
주요 업데이트 내용
기존에도 워크스페이스 메트릭을 Prometheus 형식으로 스크레이프하고 요청 ID로 단일 호출을 추적할 수 있었다. 이번 업데이트는 추적 자체를 외부 도구로 밀어내는 쪽이다. Logs 화면의 Trace Export 탭에서 대상을 추가하면, 요청이 끝날 때마다 추적이 그 도구로 전송된다. SDK를 넣거나 애플리케이션 코드를 고칠 필요가 없다.
지원 관측 도구 목록
대상 목록에는 Langfuse, LangSmith, Braintrust, Arize, W&B Weave, Datadog, Grafana Cloud, New Relic, Sentry, OpenTelemetry Collector, Webhook, PostHog가 있다. 카드마다 OpenTelemetry 또는 HTTPS로 표기돼 있어, 이미 쓰는 스택이 있으면 그대로 고르면 된다. Grafana Cloud의 경우 엔드포인트와 인스턴스 ID, 액세스 토큰을 넣는 화면이 함께 제공된다.
전송 데이터 항목
모든 대상에 요청 메타데이터가 기본으로 전송된다. 모델과 프로바이더, 토큰 수, 비용, 지연, 상태, API 키 이름, 사용자 ID다. 프롬프트와 응답 본문은 선택 사항이며, 켜면 Logs가 저장하는 것과 같은 텍스트가 Data Cloak 마스킹을 거쳐 나간다. 본문을 보내지 않으면 비용과 지연만으로도 어느 모델이 어디서 느려지는지 볼 수 있다.
설정 및 활성화 방법
Logs에서 Trace Export 탭을 열고 대상을 고른 뒤 연결 정보를 넣는다. 전송 여부를 켜고, 샘플 비율을 1%에서 100% 사이로 정한다. 저장 전에 테스트 추적을 보내 연결이 되는지 확인할 수 있다. 액세스 토큰은 암호화해 저장하며 다시 보여주지 않는다.
응답 지연 및 샘플링 정책
추적은 응답이 끝난 뒤에 나간다. 요청 처리 경로에 끼어들지 않으므로 추론 지연에 더해지는 시간이 없다고 OrcaRouter는 설명한다. 트래픽이 많은 워크스페이스는 샘플 비율을 낮춰 비용과 전송량을 조절할 수 있다. 반대로 감사 목적이라면 100%로 두고 본문 전송은 끄는 조합이 맞는다.
고려 사항 및 제약
프롬프트와 응답을 보내려면 Data Cloak 마스킹이 적용된 텍스트가 나간다는 점을 감안해야 한다. 마스킹이 켜져 있으면 원문 식별자는 추적에도 남지 않는다. 대상별 보존 기간과 요금은 각 도구 쪽 정책을 따른다. 이번 공지에는 지원 대상의 전체 목록과 전송 포맷 세부, 요금이 담기지 않았으므로 콘솔의 대상 카드와 각 도구 문서를 함께 봐야 한다.
주요 모델
OrcaRouter는 단일 API 키와 엔드포인트로 다음을 포함한 200개 이상의 모델을 제공한다.
· Claude Fable 5.2
· Gemini 4 Carbon
· GPT-6.1 Sol
· DeepSeek V4.1 Flash
· Kimi K3.1 Pro
· GLM-5.3
· Qwen3.8 27B
참고
· 관측 가능성 문서
· OrcaRouter 게시물
· 모델 카탈로그
· 요금 안내
· 트러스트 센터
OrcaRouter 소개
OrcaRouter는 OpenAI 호환 LLM 게이트웨이로, 200개가 넘는 모델에 걸쳐 라우팅하며 약 40%의 비용 절감, 1ms 미만의 라우팅 오버헤드, 0%의 토큰 마크업을 제공한다. 자체 호스팅 에디션인 OrcaRouter-Lite는 MIT 라이선스로 제공된다.
CONTINUUM AI PTE. LTD. 소개
Continuum AI Pte. Ltd.는 최첨단 AI를 개발자와 팀이 접근 가능하고 합리적인 비용으로 사용할 수 있도록 하기 위해 설립된 싱가포르 기반 기업이다. 단일 API 키와 엔드포인트를 통해 200개 이상의 선도적인 AI 모델에 대한 액세스를 제공하는 OpenAI 호환 AI Gateway인 OrcaRouter를 개발한 회사다. OrcaRouter는 약 40%의 비용 절감, 1ms 미만의 라우팅 오버헤드, 토큰 마크업 없음을 제공하며, MIT 라이선스로 출시된 자체 호스팅 버전(OrcaRouter-Lite)도 함께 제공한다.
OrcaRouter 콘솔 Logs의 Trace export (New) 탭 — 요청별 trace를 기존 관측 도구로 전송하며, 오른쪽 패널에서 Grafana Cloud 연결 정보를 입력하고 Send traces를 켠다
기존에도 워크스페이스 메트릭을 Prometheus 형식으로 스크레이프하고 요청 ID로 단일 호출을 추적할 수 있었다. 이번 업데이트는 추적 자체를 외부 도구로 밀어내는 쪽이다. Logs 화면의 Trace Export 탭에서 대상을 추가하면, 요청이 끝날 때마다 추적이 그 도구로 전송된다. SDK를 넣거나 애플리케이션 코드를 고칠 필요가 없다.
지원 관측 도구 목록
대상 목록에는 Langfuse, LangSmith, Braintrust, Arize, W&B Weave, Datadog, Grafana Cloud, New Relic, Sentry, OpenTelemetry Collector, Webhook, PostHog가 있다. 카드마다 OpenTelemetry 또는 HTTPS로 표기돼 있어, 이미 쓰는 스택이 있으면 그대로 고르면 된다. Grafana Cloud의 경우 엔드포인트와 인스턴스 ID, 액세스 토큰을 넣는 화면이 함께 제공된다.
전송 데이터 항목
모든 대상에 요청 메타데이터가 기본으로 전송된다. 모델과 프로바이더, 토큰 수, 비용, 지연, 상태, API 키 이름, 사용자 ID다. 프롬프트와 응답 본문은 선택 사항이며, 켜면 Logs가 저장하는 것과 같은 텍스트가 Data Cloak 마스킹을 거쳐 나간다. 본문을 보내지 않으면 비용과 지연만으로도 어느 모델이 어디서 느려지는지 볼 수 있다.
설정 및 활성화 방법
Logs에서 Trace Export 탭을 열고 대상을 고른 뒤 연결 정보를 넣는다. 전송 여부를 켜고, 샘플 비율을 1%에서 100% 사이로 정한다. 저장 전에 테스트 추적을 보내 연결이 되는지 확인할 수 있다. 액세스 토큰은 암호화해 저장하며 다시 보여주지 않는다.
응답 지연 및 샘플링 정책
추적은 응답이 끝난 뒤에 나간다. 요청 처리 경로에 끼어들지 않으므로 추론 지연에 더해지는 시간이 없다고 OrcaRouter는 설명한다. 트래픽이 많은 워크스페이스는 샘플 비율을 낮춰 비용과 전송량을 조절할 수 있다. 반대로 감사 목적이라면 100%로 두고 본문 전송은 끄는 조합이 맞는다.
고려 사항 및 제약
프롬프트와 응답을 보내려면 Data Cloak 마스킹이 적용된 텍스트가 나간다는 점을 감안해야 한다. 마스킹이 켜져 있으면 원문 식별자는 추적에도 남지 않는다. 대상별 보존 기간과 요금은 각 도구 쪽 정책을 따른다. 이번 공지에는 지원 대상의 전체 목록과 전송 포맷 세부, 요금이 담기지 않았으므로 콘솔의 대상 카드와 각 도구 문서를 함께 봐야 한다.
주요 모델
OrcaRouter는 단일 API 키와 엔드포인트로 다음을 포함한 200개 이상의 모델을 제공한다.
· Claude Fable 5.2
· Gemini 4 Carbon
· GPT-6.1 Sol
· DeepSeek V4.1 Flash
· Kimi K3.1 Pro
· GLM-5.3
· Qwen3.8 27B
참고
· 관측 가능성 문서
· OrcaRouter 게시물
· 모델 카탈로그
· 요금 안내
· 트러스트 센터
OrcaRouter 소개
OrcaRouter는 OpenAI 호환 LLM 게이트웨이로, 200개가 넘는 모델에 걸쳐 라우팅하며 약 40%의 비용 절감, 1ms 미만의 라우팅 오버헤드, 0%의 토큰 마크업을 제공한다. 자체 호스팅 에디션인 OrcaRouter-Lite는 MIT 라이선스로 제공된다.
CONTINUUM AI PTE. LTD. 소개
Continuum AI Pte. Ltd.는 최첨단 AI를 개발자와 팀이 접근 가능하고 합리적인 비용으로 사용할 수 있도록 하기 위해 설립된 싱가포르 기반 기업이다. 단일 API 키와 엔드포인트를 통해 200개 이상의 선도적인 AI 모델에 대한 액세스를 제공하는 OpenAI 호환 AI Gateway인 OrcaRouter를 개발한 회사다. OrcaRouter는 약 40%의 비용 절감, 1ms 미만의 라우팅 오버헤드, 토큰 마크업 없음을 제공하며, MIT 라이선스로 출시된 자체 호스팅 버전(OrcaRouter-Lite)도 함께 제공한다.
공유하기
← 블로그 목록으로