logo

Responses API

LLMoxy cung cấp tuyến tương thích OpenAI Responses:

POST /v1/responses

Nếu ứng dụng của bạn đã sử dụng cấu trúc Responses API, hoặc cần các trường như inputinstructionsreasoningprevious_response_id, bạn có thể sử dụng điểm cuối này.

Yêu cầu cơ bản

curl https://llmoxy.com/v1/responses \
  -H "Authorization: Bearer <LLMOXY_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o-mini",
    "input": "Explain gateway routing in one sentence.",
    "instructions": "Be direct."
  }'

Các trường thường dùng

TrườngMô tả
modelBắt buộc, ID mô hình.
inputChuỗi hoặc mảng kiểu tin nhắn.
instructionsVăn bản hướng dẫn cấp hệ thống.
max_output_tokensGiới hạn token đầu ra.
temperature, top_pTham số điều khiển lấy mẫu.
streamBật luồng khi nhà cung cấp hỗ trợ.
tools, tool_choiceTham số gọi công cụ.
reasoning.effortMô hình hỗ trợ suy luận có thể dùng lowmediumhigh
reasoning.summaryYêu cầu tóm tắt suy luận khi nhà cung cấp hỗ trợ.
previous_response_idTiếp tục phản hồi trước đó khi nhà cung cấp hỗ trợ.
truncationauto hoặc disabled

Điểm cuối này nhằm mục đích tương thích. Hành vi thực tế phụ thuộc vào mô hình được chọn.

Nén hội thoại

LLMoxy cũng cung cấp:

POST /v1/responses/compact

Các mô hình được hỗ trợ có thể nén lịch sử hội thoại dài thông qua điểm cuối này. Cách xác thực giống như các yêu cầu /v1 khác.