兼容格式
LLMoxy 支持多种请求格式,已有应用通常只需要替换 Base URL 和 API Key 即可迁移。
OpenAI 兼容
OpenAI SDK 配置:
TS
主要路由:
| 路由 | 用途 |
|---|---|
POST /v1/chat/completions | Chat Completions。 |
POST /v1/completions | 旧文本补全。 |
POST /v1/responses | Responses API。 |
POST /v1/embeddings | Embeddings。 |
POST /v1/images/generations | 图像生成。 |
POST /v1/audio/transcriptions | 音频转录。 |
POST /v1/audio/translations | 音频翻译。 |
POST /v1/audio/speech | 文本转语音。 |
GET /v1/realtime | Realtime WebSocket。 |
Anthropic Messages
BASH
Anthropic 路由接受 system、max_tokens、temperature、top_p、top_k、stop_sequences、tools、tool_choice、thinking、metadata.user_id 等字段。
Gemini
BASH
Gemini 风格模型列表可使用 GET /v1beta/models。
尚未实现的兼容路由
当前 Relay 对以下 OpenAI 兼容路由返回未实现:
POST /v1/images/variations/v1/files/v1/fine-tunesDELETE /v1/models/{model}
