Embeddings và Rerank | LLMoxy 文档

Embeddings

Yêu cầu embedding tương thích OpenAI sử dụng POST /v1/embeddings.

curl https://llmoxy.com/v1/embeddings \
  -H "Authorization: Bearer <LLMOXY_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "text-embedding-3-small",
    "input": ["first document", "second document"],
    "encoding_format": "float"
  }'

Các trường thường dùng：

Trường	Mô tả
`model`	Bắt buộc, ID mô hình Embedding.
`input`	Chuỗi hoặc mảng chuỗi.
`encoding_format`	Có thể là `float` hoặc `base64` khi nhà cung cấp hỗ trợ.
`dimensions`	Mô hình hỗ trợ có thể chỉ định số chiều đầu ra.
`user`	Định danh theo dõi tùy chọn.

Yêu cầu Embedding kiểu Gemini có thể sử dụng：

POST /v1/engines/{model}/embeddings

Rerank

Sử dụng POST /v1/rerank để gọi các mô hình Rerank như Jina, Cohere.

curl https://llmoxy.com/v1/rerank \
  -H "Authorization: Bearer <LLMOXY_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "jina-reranker-v2-base-multilingual",
    "query": "What is LLMoxy?",
    "documents": [
      "LLMoxy is an LLM gateway.",
      "A database stores rows."
    ],
    "top_n": 1,
    "return_documents": true
  }'

Các trường thường dùng：

Trường	Mô tả
`model`	Bắt buộc, ID mô hình Rerank.
`query`	Văn bản truy vấn.
`documents`	Mảng chuỗi hoặc đối tượng tài liệu.
`top_n`	Số lượng kết quả sắp xếp tối đa trả về.
`return_documents`	Có bao gồm tài liệu gốc trong phản hồi hay không.