인증
Venice API는 인증을 위해 API 키를 사용합니다. API 설정에서 API 키를 생성하고 관리하세요. 모든 API 요청에는 HTTP Bearer 인증이 필요합니다:API 키는 비밀입니다. 공유하거나 클라이언트 측 코드에 노출하지 마세요.
OpenAI 호환성
Venice의 API는 OpenAI API 사양을 구현하여 기존 OpenAI 클라이언트 및 도구와의 호환성을 보장합니다. 이를 통해 익숙한 OpenAI 인터페이스를 사용하여 Venice와 통합하면서 Venice의 고유한 기능과 검열되지 않은 모델에 액세스할 수 있습니다.설정
Venice의 base URL(https://api.venice.ai/api/v1)을 사용하도록 클라이언트를 구성하고 첫 번째 요청을 보내세요:
Venice 전용 기능
시스템 프롬프트
Venice는 검열되지 않은 자연스러운 모델 응답을 보장하도록 설계된 기본 시스템 프롬프트를 제공합니다. 시스템 프롬프트 처리에는 두 가지 옵션이 있습니다:- 기본 동작: 시스템 프롬프트가 Venice의 기본값에 추가됨
- 사용자 지정 동작: Venice의 시스템 프롬프트를 완전히 비활성화
Venice 시스템 프롬프트 비활성화
Venice의 기본 시스템 프롬프트를 제거하려면venice_parameters 옵션을 사용하세요:
Venice 매개변수
venice_parameters 객체를 사용하면 표준 OpenAI API에서 사용할 수 없는 Venice 전용 기능에 액세스할 수 있습니다:
이러한 매개변수는 모델 이름에 추가된 모델 접미사로도 지정할 수 있습니다 (예:
zai-org-glm-5:enable_web_search=auto). 자세한 내용은 모델 기능 접미사를 참조하세요.프롬프트 캐싱
Venice는 반복되는 콘텐츠에 대한 지연 시간과 비용을 줄이기 위해 선택된 모델에서 프롬프트 캐싱을 지원합니다. 지원되는 모델의 경우 Venice는 시스템 프롬프트를 자동으로 캐시합니다 — 코드 변경이 필요하지 않습니다. 메시지 콘텐츠의cache_control 속성을 사용하여 캐싱할 콘텐츠를 수동으로 표시할 수도 있습니다.
캐싱 작동 방식, 청구 및 모범 사례에 대한 자세한 내용은 프롬프트 캐싱을 참조하세요.
응답 헤더 참조
모든 Venice API 응답에는 요청, 속도 제한, 모델 정보 및 계정 잔액에 대한 메타데이터를 제공하는 HTTP 헤더가 포함됩니다. API 응답에서 반환된 오류 코드 외에도 이러한 헤더를 검사하여 특정 API 요청의 고유 ID를 얻고, 속도 제한을 모니터링하고, 계정 잔액을 추적할 수 있습니다. Venice는 필요한 경우 지원팀과 보다 효율적인 문제 해결을 위해 프로덕션 배포에서 요청 ID(CF-RAY 헤더)를 기록할 것을 권장합니다.
아래 표는 발생할 수 있는 모든 헤더에 대한 포괄적인 참조를 제공합니다:
중요 참고 사항
- 헤더 이름 대소문자: HTTP 헤더는 대소문자를 구분하지 않지만 Venice는 일관성을 위해 소문자와 하이픈을 사용합니다
- 문자열 값: 헤더의 부울 값은 문자열 (
"true"또는"false")로 반환됩니다 - 숫자 값: 정밀도 손실을 방지하기 위해 큰 숫자와 잔액 값은 문자열로 반환될 수 있습니다
- 선택적 헤더: 모든 헤더가 모든 응답에 반환되는 것은 아닙니다; 존재 여부는 엔드포인트와 요청 컨텍스트에 따라 다릅니다
- 압축: 지원되는 경우 압축된 응답을 받으려면 요청에
Accept-Encoding: gzip, br을 사용하세요
예제: 응답 헤더 접근
모범 사례
- 속도 제한:
x-ratelimit-remaining-requests및x-ratelimit-remaining-tokens헤더를 모니터링하고 지수 백오프 구현 - 잔액 모니터링: 서비스 중단을 방지하기 위해
x-venice-balance-usd및x-venice-balance-diem헤더 추적 - 시스템 프롬프트: Venice의 시스템 프롬프트를 사용하거나 사용하지 않고 테스트하여 사용 사례에 가장 적합한 것 찾기
- API 키: API 키를 안전하게 보관하고 정기적으로 회전
- 요청 로깅: 지원과의 문제 해결을 위해
CF-RAY헤더 값 기록 - 모델 지원 중단: 모델 사용 시
x-venice-model-deprecation-warning헤더 확인
OpenAI API와의 차이점
Venice는 OpenAI API 사양과 높은 호환성을 유지하지만 몇 가지 주요 차이점이 있습니다:- venice_parameters: 확장 기능을 위한
enable_web_search,character_slug,strip_thinking_response와 같은 추가 구성 - 시스템 프롬프트: Venice는 검열되지 않은 응답에 최적화된 기본값에 시스템 프롬프트를 추가합니다 (
include_venice_system_prompt: false로 비활성화) - 모델 생태계: Venice는 검열되지 않은 모델과 추론 모델을 포함한 자체 모델 라인업을 제공합니다 - OpenAI 매핑이 아닌 Venice 모델 ID를 사용하세요
- 응답 헤더: 잔액 추적(
x-venice-balance-usd,x-venice-balance-diem), 모델 지원 중단 경고 및 콘텐츠 안전 플래그를 위한 고유 헤더 - 콘텐츠 정책: 전용 검열되지 않은 모델과 선택적 콘텐츠 필터링이 있는 보다 허용적인 정책
API 안정성
Venice는 v1 엔드포인트와 매개변수에 대한 이전 버전과의 호환성을 유지합니다. 모델 수명 주기 정책, 지원 중단 공지 및 마이그레이션 가이드는 지원 중단을 참조하세요.OpenAPI 사양 & 원시 데이터
Venice API 문서와 데이터에 대한 프로그래밍 방식 접근(RAG(Retrieval-Augmented Generation)와 함께 사용 포함)을 위해 다음 리소스를 사용할 수 있습니다:- OpenAPI Spec (YAML) — YAML 형식의 전체 API 사양
- API Docs Source — 다운로드 가능한 아카이브로 제공되는 모든 문서 페이지(
.mdx형식)
이 문서에 나열되지 않은 요청 필드는 전달될 수 있지만 유효성 검사되거나 작동이 보장되지 않습니다.