Embeddings と Rerank | LLMoxy 文档

Embeddings

OpenAI 互換の Embedding リクエストは POST /v1/embeddings を使用します。

curl https://llmoxy.com/v1/embeddings \
  -H "Authorization: Bearer <LLMOXY_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "text-embedding-3-small",
    "input": ["first document", "second document"],
    "encoding_format": "float"
  }'

常用フィールド：

フィールド	説明
`model`	必須。Embedding モデル ID。
`input`	文字列または文字列の配列。
`encoding_format`	上流が対応している場合 `float` または `base64`。
`dimensions`	対応モデルで出力次元を指定可能。
`user`	オプションの追跡識別子。

Gemini スタイルの Embedding リクエストは以下を使用できます：

POST /v1/engines/{model}/embeddings

Rerank

POST /v1/rerank を使用して Jina、Cohere などの Rerank モデルを呼び出します。

curl https://llmoxy.com/v1/rerank \
  -H "Authorization: Bearer <LLMOXY_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "jina-reranker-v2-base-multilingual",
    "query": "What is LLMoxy?",
    "documents": [
      "LLMoxy is an LLM gateway.",
      "A database stores rows."
    ],
    "top_n": 1,
    "return_documents": true
  }'

常用フィールド：

フィールド	説明
`model`	必須。Rerank モデル ID。
`query`	クエリテキスト。
`documents`	文字列またはドキュメントオブジェクトの配列。
`top_n`	返される最大ランク付け結果数。
`return_documents`	レスポンスに元のドキュメントを含めるかどうか。