logo

Chat Completions

POST /v1/chat/completions là giao diện trò chuyện chính tương thích OpenAI.

curl https://llmoxy.com/v1/chat/completions \
  -H "Authorization: Bearer <LLMOXY_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o-mini",
    "messages": [
      { "role": "system", "content": "Be concise." },
      { "role": "user", "content": "What is LLMoxy?" }
    ]
  }'

Thân yêu cầu

Các trường thường dùng：

TrườngMô tả
modelBắt buộc, ID mô hình.
messagesBắt buộc, mảng tin nhắn hội thoại.
temperature, top_p, n, stopTham số điều khiển lấy mẫu, chuyển đến nhà cung cấp tương thích.
max_tokens, max_completion_tokensGiới hạn token đầu ra.
streamĐặt thành true để bật luồng SSE.
stream_options.include_usageTrả về usage trong phản hồi luồng khi nhà cung cấp hỗ trợ.
tools, tool_choiceGọi công cụ tương thích OpenAI.
response_formatYêu cầu đầu ra có cấu trúc cho mô hình hỗ trợ.
reasoning_effortMô hình hỗ trợ suy luận có thể dùng low、medium、high。
modalities, audioDùng được cho mô hình hỗ trợ âm thanh đa phương thức.
userTùy chọn, dùng để nhận diện người dùng cuối của bạn.

Các mô hình hỗ trợ tham số khác nhau. Nếu phản hồi cho biết tham số không được hỗ trợ, hãy xóa hoặc chuyển sang mô hình khác.

Đầu ra luồng

{
  "model": "gpt-4o-mini",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Stream one sentence." }
  ]
}

Phản hồi sử dụng chunk SSE kiểu OpenAI và kết thúc bằng [DONE].

Gọi công cụ

{
  "model": "gpt-4o-mini",
  "messages": [
    { "role": "user", "content": "What is the weather in Singapore?" }
  ],
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
          "type": "object",
          "properties": {
            "city": { "type": "string" }
          },
          "required": ["city"]
        }
      }
    }
  ]
}

Các mô hình hỗ trợ gọi công cụ sẽ nhận định nghĩa công cụ và trả về phản hồi gọi công cụ tương thích OpenAI.

Completions cũ

Khách hàng bổ sung văn bản cũ có thể sử dụng POST /v1/completions.

Mô hình
Responses API