LLMoxy cung cấp tuyến tương thích OpenAI Responses:
POST /v1/responses
Nếu ứng dụng của bạn đã sử dụng cấu trúc Responses API, hoặc cần các trường như input、instructions、reasoning、previous_response_id, bạn có thể sử dụng điểm cuối này.
Yêu cầu cơ bản
curl https://llmoxy.com/v1/responses \
-H "Authorization: Bearer <LLMOXY_API_KEY>" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o-mini",
"input": "Explain gateway routing in one sentence.",
"instructions": "Be direct."
}'
Các trường thường dùng
| Trường | Mô tả |
|---|---|
model | Bắt buộc, ID mô hình. |
input | Chuỗi hoặc mảng kiểu tin nhắn. |
instructions | Văn bản hướng dẫn cấp hệ thống. |
max_output_tokens | Giới hạn token đầu ra. |
temperature, top_p | Tham số điều khiển lấy mẫu. |
stream | Bật luồng khi nhà cung cấp hỗ trợ. |
tools, tool_choice | Tham số gọi công cụ. |
reasoning.effort | Mô hình hỗ trợ suy luận có thể dùng low、medium、high。 |
reasoning.summary | Yêu cầu tóm tắt suy luận khi nhà cung cấp hỗ trợ. |
previous_response_id | Tiếp tục phản hồi trước đó khi nhà cung cấp hỗ trợ. |
truncation | auto hoặc disabled。 |
Điểm cuối này nhằm mục đích tương thích. Hành vi thực tế phụ thuộc vào mô hình được chọn.
Nén hội thoại
LLMoxy cũng cung cấp:
POST /v1/responses/compact
Các mô hình được hỗ trợ có thể nén lịch sử hội thoại dài thông qua điểm cuối này. Cách xác thực giống như các yêu cầu /v1 khác.
