메인 콘텐츠로 건너뛰기
Venice API는 검열되지 않은 모델과 비공개 추론으로 AI 애플리케이션을 구축하기 위한 HTTP 기반 REST 및 스트리밍 인터페이스를 제공합니다. 텍스트 생성, 이미지 생성, embeddings 등을 모두 제한적인 콘텐츠 정책 없이 만들 수 있습니다. 통합 예제와 SDK는 문서에서 사용할 수 있습니다. API 참조는 OpenAPI YAML spec으로도 제공됩니다.

인증

Venice API는 인증을 위해 API 키를 사용합니다. API 설정에서 API 키를 생성하고 관리하세요. 모든 API 요청에는 HTTP Bearer 인증이 필요합니다:
API 키는 비밀입니다. 공유하거나 클라이언트 측 코드에 노출하지 마세요.

OpenAI 호환성

Venice의 API는 OpenAI API 사양을 구현하여 기존 OpenAI 클라이언트 및 도구와의 호환성을 보장합니다. 이를 통해 익숙한 OpenAI 인터페이스를 사용하여 Venice와 통합하면서 Venice의 고유한 기능과 검열되지 않은 모델에 액세스할 수 있습니다.

설정

Venice의 base URL(https://api.venice.ai/api/v1)을 사용하도록 클라이언트를 구성하고 첫 번째 요청을 보내세요:

Venice 전용 기능

시스템 프롬프트

Venice는 검열되지 않은 자연스러운 모델 응답을 보장하도록 설계된 기본 시스템 프롬프트를 제공합니다. 시스템 프롬프트 처리에는 두 가지 옵션이 있습니다:
  1. 기본 동작: 시스템 프롬프트가 Venice의 기본값에 추가됨
  2. 사용자 지정 동작: Venice의 시스템 프롬프트를 완전히 비활성화

Venice 시스템 프롬프트 비활성화

Venice의 기본 시스템 프롬프트를 제거하려면 venice_parameters 옵션을 사용하세요:

Venice 매개변수

venice_parameters 객체를 사용하면 표준 OpenAI API에서 사용할 수 없는 Venice 전용 기능에 액세스할 수 있습니다:
이러한 매개변수는 모델 이름에 추가된 모델 접미사로도 지정할 수 있습니다 (예: zai-org-glm-5:enable_web_search=auto). 자세한 내용은 모델 기능 접미사를 참조하세요.

프롬프트 캐싱

Venice는 반복되는 콘텐츠에 대한 지연 시간과 비용을 줄이기 위해 선택된 모델에서 프롬프트 캐싱을 지원합니다. 지원되는 모델의 경우 Venice는 시스템 프롬프트를 자동으로 캐시합니다 — 코드 변경이 필요하지 않습니다. 메시지 콘텐츠의 cache_control 속성을 사용하여 캐싱할 콘텐츠를 수동으로 표시할 수도 있습니다. 캐싱 작동 방식, 청구 및 모범 사례에 대한 자세한 내용은 프롬프트 캐싱을 참조하세요.

응답 헤더 참조

모든 Venice API 응답에는 요청, 속도 제한, 모델 정보 및 계정 잔액에 대한 메타데이터를 제공하는 HTTP 헤더가 포함됩니다. API 응답에서 반환된 오류 코드 외에도 이러한 헤더를 검사하여 특정 API 요청의 고유 ID를 얻고, 속도 제한을 모니터링하고, 계정 잔액을 추적할 수 있습니다. Venice는 필요한 경우 지원팀과 보다 효율적인 문제 해결을 위해 프로덕션 배포에서 요청 ID(CF-RAY 헤더)를 기록할 것을 권장합니다. 아래 표는 발생할 수 있는 모든 헤더에 대한 포괄적인 참조를 제공합니다:

중요 참고 사항

  • 헤더 이름 대소문자: HTTP 헤더는 대소문자를 구분하지 않지만 Venice는 일관성을 위해 소문자와 하이픈을 사용합니다
  • 문자열 값: 헤더의 부울 값은 문자열 ("true" 또는 "false")로 반환됩니다
  • 숫자 값: 정밀도 손실을 방지하기 위해 큰 숫자와 잔액 값은 문자열로 반환될 수 있습니다
  • 선택적 헤더: 모든 헤더가 모든 응답에 반환되는 것은 아닙니다; 존재 여부는 엔드포인트와 요청 컨텍스트에 따라 다릅니다
  • 압축: 지원되는 경우 압축된 응답을 받으려면 요청에 Accept-Encoding: gzip, br을 사용하세요

예제: 응답 헤더 접근

모범 사례

  1. 속도 제한: x-ratelimit-remaining-requestsx-ratelimit-remaining-tokens 헤더를 모니터링하고 지수 백오프 구현
  2. 잔액 모니터링: 서비스 중단을 방지하기 위해 x-venice-balance-usdx-venice-balance-diem 헤더 추적
  3. 시스템 프롬프트: Venice의 시스템 프롬프트를 사용하거나 사용하지 않고 테스트하여 사용 사례에 가장 적합한 것 찾기
  4. API 키: API 키를 안전하게 보관하고 정기적으로 회전
  5. 요청 로깅: 지원과의 문제 해결을 위해 CF-RAY 헤더 값 기록
  6. 모델 지원 중단: 모델 사용 시 x-venice-model-deprecation-warning 헤더 확인

OpenAI API와의 차이점

Venice는 OpenAI API 사양과 높은 호환성을 유지하지만 몇 가지 주요 차이점이 있습니다:
  1. venice_parameters: 확장 기능을 위한 enable_web_search, character_slug, strip_thinking_response와 같은 추가 구성
  2. 시스템 프롬프트: Venice는 검열되지 않은 응답에 최적화된 기본값에 시스템 프롬프트를 추가합니다 (include_venice_system_prompt: false로 비활성화)
  3. 모델 생태계: Venice는 검열되지 않은 모델과 추론 모델을 포함한 자체 모델 라인업을 제공합니다 - OpenAI 매핑이 아닌 Venice 모델 ID를 사용하세요
  4. 응답 헤더: 잔액 추적(x-venice-balance-usd, x-venice-balance-diem), 모델 지원 중단 경고 및 콘텐츠 안전 플래그를 위한 고유 헤더
  5. 콘텐츠 정책: 전용 검열되지 않은 모델과 선택적 콘텐츠 필터링이 있는 보다 허용적인 정책

API 안정성

Venice는 v1 엔드포인트와 매개변수에 대한 이전 버전과의 호환성을 유지합니다. 모델 수명 주기 정책, 지원 중단 공지 및 마이그레이션 가이드는 지원 중단을 참조하세요.

OpenAPI 사양 & 원시 데이터

Venice API 문서와 데이터에 대한 프로그래밍 방식 접근(RAG(Retrieval-Augmented Generation)와 함께 사용 포함)을 위해 다음 리소스를 사용할 수 있습니다:
이 문서에 나열되지 않은 요청 필드는 전달될 수 있지만 유효성 검사되거나 작동이 보장되지 않습니다.