Skip to main content
POST
使用 Authorization: Bearer $PIPELLM_API_KEY。model 从 GET /v1/models 选取。

端点

这条 free route 只接受 OpenAI 兼容格式请求,并只路由到 OpenAI 兼容平台。 如果你想保留 OpenAI 格式去调用 Anthropic 或 Gemini 模型,请使用 OpenAI Format Converter。

代码示例

请求参数

model 从 GET /v1/models 选取。原生 /v1/chat/completions 只会路由到 OpenAI 兼容平台。
string
必填
当前账号可见的模型 ID。
array
必填
对话消息,至少一条。
number
采样温度,0–2。默认 1。
integer
最大生成 token 数。
integer
较新的 OpenAI 兼容模型优先用这个字段,而不是 max_tokens。
boolean
为 true 时返回 SSE。见 流式输出。
object
流式附加选项。
number
核采样,0–1。
integer
生成条数。默认 1。
string | string[]
停止序列,或停止序列列表。
number
存在惩罚,-2 到 2。默认 0。
number
频率惩罚,-2 到 2。默认 0。
array
模型可调用的函数工具。见 Function Calling。
string | object
auto、none,或 {"type":"function","function":{"name":"..."}}。
string
终端用户标识,用于滥用追踪。

响应格式

string
补全 ID。
string
非流式为 chat.completion,流式为 chat.completion.chunk。
string
实际生成用的模型。
array
生成结果。
object
Token 计数:prompt_tokens、completion_tokens、total_tokens。

错误

错误信封与 错误 相同。
JSON 不合法、缺少 model / messages,或原生路由协议不匹配。
缺少或无效的 API Key。
处理前余额检查失败。
账号 RPM 超限。见 速率限制。

Function Calling

Function Calling 允许模型生成结构化的 JSON 来调用代码中的函数。

Function Calling 官方文档

完整的函数定义和响应处理指南