Embeddings et Rerank | LLMoxy 文档

Embeddings

Les requêtes d'embedding compatibles OpenAI utilisent POST /v1/embeddings.

curl https://llmoxy.com/v1/embeddings \
  -H "Authorization: Bearer <LLMOXY_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "text-embedding-3-small",
    "input": ["first document", "second document"],
    "encoding_format": "float"
  }'

Champs courants :

Champ	Description
`model`	Obligatoire. ID du modèle d'embedding.
`input`	Chaîne ou tableau de chaînes.
`encoding_format`	Peut être `float` ou `base64` lorsque le fournisseur le prend en charge.
`dimensions`	Les modèles pris en charge peuvent spécifier les dimensions de sortie.
`user`	Identifiant de suivi facultatif.

Les requêtes d'embedding de style Gemini peuvent utiliser :

POST /v1/engines/{model}/embeddings

Rerank

Utilisez POST /v1/rerank pour appeler les modèles de rerank Jina, Cohere, etc.

curl https://llmoxy.com/v1/rerank \
  -H "Authorization: Bearer <LLMOXY_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "jina-reranker-v2-base-multilingual",
    "query": "What is LLMoxy?",
    "documents": [
      "LLMoxy is an LLM gateway.",
      "A database stores rows."
    ],
    "top_n": 1,
    "return_documents": true
  }'

Champs courants :

Champ	Description
`model`	Obligatoire. ID du modèle de rerank.
`query`	Texte de la requête.
`documents`	Tableau de chaînes ou d'objets document.
`top_n`	Nombre maximal de résultats classés à renvoyer.
`return_documents`	Inclure ou non les documents originaux dans la réponse.