logo

互換フォーマット

LLMoxy は複数のリクエスト形式をサポートしています。既存のアプリケーションは通常、Base URL と API Key を置き換えるだけで移行できます。

OpenAI 互換

OpenAI SDK 設定：

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.LLMOXY_API_KEY,
  baseURL: "https://llmoxy.com/v1",
});

主要ルート：

ルート用途
POST /v1/chat/completionsChat Completions。
POST /v1/completions旧テキスト補完。
POST /v1/responsesResponses API。
POST /v1/embeddingsEmbeddings。
POST /v1/images/generations画像生成。
POST /v1/audio/transcriptions音声文字起こし。
POST /v1/audio/translations音声翻訳。
POST /v1/audio/speechテキスト読み上げ。
GET /v1/realtimeRealtime WebSocket。

Anthropic Messages

curl https://llmoxy.com/v1/messages \
  -H "x-api-key: <LLMOXY_API_KEY>" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-3-5-sonnet-latest",
    "max_tokens": 256,
    "messages": [
      { "role": "user", "content": "Hello" }
    ]
  }'

Anthropic ルートは system、max_tokens、temperature、top_p、top_k、stop_sequences、tools、tool_choice、thinking、metadata.user_id などのフィールドを受け入れます。

Gemini

curl "https://llmoxy.com/v1beta/models/gpt-5.4:generateContent" \
  -H "x-goog-api-key: <LLMOXY_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "contents": [
      {
        "role": "user",
        "parts": [{ "text": "Explain LLMoxy in one sentence." }]
      }
    ]
  }'

Gemini スタイルのモデル一覧は GET /v1beta/models を使用できます。

未実装の互換ルート

現在 Relay は以下の OpenAI 互換ルートに対して未実装を返します：

  • POST /v1/images/variations
  • /v1/files
  • /v1/fine-tunes
  • DELETE /v1/models/{model}
Responses API
Embeddings と Rerank