Formats compatibles | LLMoxy 文档

LLMoxy prend en charge plusieurs formats de requête. Les applications existantes n'ont généralement besoin que de remplacer l'URL de base et la clé API pour migrer.

Compatible OpenAI

Configuration du SDK OpenAI :

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.LLMOXY_API_KEY,
  baseURL: "https://llmoxy.com/v1",
});

Principales routes :

Route	Usage
`POST /v1/chat/completions`	Chat Completions.
`POST /v1/completions`	Anciennes complétions de texte.
`POST /v1/responses`	Responses API.
`POST /v1/embeddings`	Embeddings.
`POST /v1/images/generations`	Génération d'images.
`POST /v1/audio/transcriptions`	Transcription audio.
`POST /v1/audio/translations`	Traduction audio.
`POST /v1/audio/speech`	Synthèse vocale.
`GET /v1/realtime`	WebSocket Realtime.

Anthropic Messages

curl https://llmoxy.com/v1/messages \
  -H "x-api-key: <LLMOXY_API_KEY>" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-3-5-sonnet-latest",
    "max_tokens": 256,
    "messages": [
      { "role": "user", "content": "Hello" }
    ]
  }'

Les routes Anthropic acceptent system, max_tokens, temperature, top_p, top_k, stop_sequences, tools, tool_choice, thinking, metadata.user_id, et d'autres champs.

Gemini

curl "https://llmoxy.com/v1beta/models/gpt-5.4:generateContent" \
  -H "x-goog-api-key: <LLMOXY_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "contents": [
      {
        "role": "user",
        "parts": [{ "text": "Explain LLMoxy in one sentence." }]
      }
    ]
  }'

Les listes de modèles de style Gemini peuvent utiliser GET /v1beta/models.

Routes compatibles non encore implémentées

Actuellement Relay renvoie non implémenté pour les routes compatibles OpenAI suivantes :

POST /v1/images/variations
/v1/files
/v1/fine-tunes
DELETE /v1/models/{model}