跳转到主要内容
Venice API 提供基于 HTTP 的 REST 和流式接口,用于构建使用无审查模型与私有推理的 AI 应用。您可以创建文本生成、图像生成、嵌入向量等内容,所有这些都不受限制性内容政策的约束。集成示例和 SDK 可在文档中查看。我们的 API 参考也可作为 OpenAPI YAML 规范使用。

身份验证

Venice API 使用 API 密钥进行身份验证。在您的 API 设置中创建和管理您的 API 密钥。 所有 API 请求都需要 HTTP Bearer 身份验证:
您的 API 密钥是机密信息。请勿共享或在任何客户端代码中暴露它。

OpenAI 兼容性

Venice 的 API 实现了 OpenAI API 规范,确保与现有的 OpenAI 客户端和工具兼容。这使您可以使用熟悉的 OpenAI 接口与 Venice 集成,同时访问 Venice 独有的功能和无审查模型。

设置

将您的客户端配置为使用 Venice 的 base URL(https://api.venice.ai/api/v1)并发起首个请求:

Venice 专有功能

系统 prompt

Venice 提供默认的系统 prompt,旨在确保模型响应无审查且自然。您有两种处理系统 prompt 的方式:
  1. 默认行为:您的系统 prompt 会附加到 Venice 的默认值之后
  2. 自定义行为:完全禁用 Venice 的系统 prompt

禁用 Venice 系统 prompt

使用 venice_parameters 选项移除 Venice 的默认系统 prompt:

Venice 参数

venice_parameters 对象允许您访问标准 OpenAI API 中不可用的 Venice 专有功能:
这些参数也可以作为附加在模型名称之后的模型后缀指定(例如 zai-org-glm-5:enable_web_search=auto)。详细信息请参阅模型功能后缀

Prompt 缓存

Venice 在精选模型上支持 prompt 缓存,以减少重复内容的延迟和成本。对于支持的模型,Venice 会自动缓存系统 prompt——无需更改代码。您也可以使用消息内容上的 cache_control 属性手动标记要缓存的内容。 有关缓存如何工作、计费和最佳实践的详细信息,请参阅 Prompt 缓存

响应头参考

所有 Venice API 响应都包含提供请求元数据、速率限制、模型信息和账户余额的 HTTP 头。除了 API 响应返回的错误代码外,您还可以检查这些头部以获取特定 API 请求的唯一 ID、监控速率限制并跟踪您的账户余额。 Venice 建议在生产部署中记录请求 ID(CF-RAY 头),以便在需要时与我们的支持团队进行更高效的故障排查。 下表提供了您可能遇到的所有头部的全面参考:

重要说明

  • 头部名称大小写:HTTP 头部不区分大小写,但 Venice 为保持一致性使用小写加连字符
  • 字符串值:头部中的布尔值以字符串形式返回("true""false"
  • 数值:大数字和余额值可能以字符串形式返回,以避免精度丢失
  • 可选头部:并非所有头部都会在每个响应中返回;是否存在取决于端点和请求上下文
  • 压缩:在请求中使用 Accept-Encoding: gzip, br 以在支持的地方接收压缩响应

示例:访问响应头部

最佳实践

  1. 速率限制:监控 x-ratelimit-remaining-requestsx-ratelimit-remaining-tokens 头部并实现指数退避
  2. 余额监控:跟踪 x-venice-balance-usdx-venice-balance-diem 头部以避免服务中断
  3. 系统 prompt:在启用和不启用 Venice 系统 prompt 的情况下进行测试,以找到最适合您用例的方式
  4. API 密钥:妥善保管 API 密钥并定期轮换
  5. 请求日志:记录 CF-RAY 头部值以便与支持团队进行故障排查
  6. 模型弃用:使用模型时检查 x-venice-model-deprecation-warning 头部

与 OpenAI API 的差异

虽然 Venice 与 OpenAI API 规范保持高度兼容,但仍存在一些关键差异:
  1. venice_parameters:额外的配置项如 enable_web_searchcharacter_slugstrip_thinking_response,用于扩展功能
  2. 系统 prompt:Venice 将您的系统 prompt 附加到针对无审查响应优化的默认值之后(使用 include_venice_system_prompt: false 禁用)
  3. 模型生态:Venice 提供自己的模型阵容,包括无审查模型和推理模型——使用 Venice 模型 ID 而非 OpenAI 映射
  4. 响应头:用于余额跟踪的独特头部(x-venice-balance-usdx-venice-balance-diem)、模型弃用警告和内容安全标志
  5. 内容政策:更宽松的政策,配有专门的无审查模型和可选的内容过滤

API 稳定性

Venice 对 v1 端点和参数保持向后兼容。有关模型生命周期政策、弃用通知和迁移指南,请参阅弃用

OpenAPI 规范与原始数据

为以编程方式访问 Venice API 文档和数据(包括与 RAG 检索增强生成一起使用),以下资源可用:
本文档中未列出的请求字段可能会被透传,但不保证经过验证或正常工作。