身份验证
Venice API 使用 API 密钥进行身份验证。在您的 API 设置中创建和管理您的 API 密钥。 所有 API 请求都需要 HTTP Bearer 身份验证:您的 API 密钥是机密信息。请勿共享或在任何客户端代码中暴露它。
OpenAI 兼容性
Venice 的 API 实现了 OpenAI API 规范,确保与现有的 OpenAI 客户端和工具兼容。这使您可以使用熟悉的 OpenAI 接口与 Venice 集成,同时访问 Venice 独有的功能和无审查模型。设置
将您的客户端配置为使用 Venice 的 base URL(https://api.venice.ai/api/v1)并发起首个请求:
Venice 专有功能
系统 prompt
Venice 提供默认的系统 prompt,旨在确保模型响应无审查且自然。您有两种处理系统 prompt 的方式:- 默认行为:您的系统 prompt 会附加到 Venice 的默认值之后
- 自定义行为:完全禁用 Venice 的系统 prompt
禁用 Venice 系统 prompt
使用venice_parameters 选项移除 Venice 的默认系统 prompt:
Venice 参数
venice_parameters 对象允许您访问标准 OpenAI API 中不可用的 Venice 专有功能:
这些参数也可以作为附加在模型名称之后的模型后缀指定(例如
zai-org-glm-5:enable_web_search=auto)。详细信息请参阅模型功能后缀。Prompt 缓存
Venice 在精选模型上支持 prompt 缓存,以减少重复内容的延迟和成本。对于支持的模型,Venice 会自动缓存系统 prompt——无需更改代码。您也可以使用消息内容上的cache_control 属性手动标记要缓存的内容。
有关缓存如何工作、计费和最佳实践的详细信息,请参阅 Prompt 缓存。
响应头参考
所有 Venice API 响应都包含提供请求元数据、速率限制、模型信息和账户余额的 HTTP 头。除了 API 响应返回的错误代码外,您还可以检查这些头部以获取特定 API 请求的唯一 ID、监控速率限制并跟踪您的账户余额。 Venice 建议在生产部署中记录请求 ID(CF-RAY 头),以便在需要时与我们的支持团队进行更高效的故障排查。
下表提供了您可能遇到的所有头部的全面参考:
重要说明
- 头部名称大小写:HTTP 头部不区分大小写,但 Venice 为保持一致性使用小写加连字符
- 字符串值:头部中的布尔值以字符串形式返回(
"true"或"false") - 数值:大数字和余额值可能以字符串形式返回,以避免精度丢失
- 可选头部:并非所有头部都会在每个响应中返回;是否存在取决于端点和请求上下文
- 压缩:在请求中使用
Accept-Encoding: gzip, br以在支持的地方接收压缩响应
示例:访问响应头部
最佳实践
- 速率限制:监控
x-ratelimit-remaining-requests和x-ratelimit-remaining-tokens头部并实现指数退避 - 余额监控:跟踪
x-venice-balance-usd和x-venice-balance-diem头部以避免服务中断 - 系统 prompt:在启用和不启用 Venice 系统 prompt 的情况下进行测试,以找到最适合您用例的方式
- API 密钥:妥善保管 API 密钥并定期轮换
- 请求日志:记录
CF-RAY头部值以便与支持团队进行故障排查 - 模型弃用:使用模型时检查
x-venice-model-deprecation-warning头部
与 OpenAI API 的差异
虽然 Venice 与 OpenAI API 规范保持高度兼容,但仍存在一些关键差异:- venice_parameters:额外的配置项如
enable_web_search、character_slug和strip_thinking_response,用于扩展功能 - 系统 prompt:Venice 将您的系统 prompt 附加到针对无审查响应优化的默认值之后(使用
include_venice_system_prompt: false禁用) - 模型生态:Venice 提供自己的模型阵容,包括无审查模型和推理模型——使用 Venice 模型 ID 而非 OpenAI 映射
- 响应头:用于余额跟踪的独特头部(
x-venice-balance-usd、x-venice-balance-diem)、模型弃用警告和内容安全标志 - 内容政策:更宽松的政策,配有专门的无审查模型和可选的内容过滤
API 稳定性
Venice 对 v1 端点和参数保持向后兼容。有关模型生命周期政策、弃用通知和迁移指南,请参阅弃用。OpenAPI 规范与原始数据
为以编程方式访问 Venice API 文档和数据(包括与 RAG 检索增强生成一起使用),以下资源可用:- OpenAPI 规范(YAML) — 完整的 API 规范,YAML 格式
- API 文档源码 — 所有文档页面(
.mdx格式)的可下载归档
本文档中未列出的请求字段可能会被透传,但不保证经过验证或正常工作。