Chat Completions
POST /v1/chat/completions là giao diện trò chuyện chính tương thích OpenAI.
BASH
Thân yêu cầu
Các trường thường dùng:
| Trường | Mô tả |
|---|---|
model | Bắt buộc, ID mô hình. |
messages | Bắt buộc, mảng tin nhắn hội thoại. |
temperature, top_p, n, stop | Tham số điều khiển lấy mẫu, chuyển đến nhà cung cấp tương thích. |
max_tokens, max_completion_tokens | Giới hạn token đầu ra. |
stream | Đặt thành true để bật luồng SSE. |
stream_options.include_usage | Trả về usage trong phản hồi luồng khi nhà cung cấp hỗ trợ. |
tools, tool_choice | Gọi công cụ tương thích OpenAI. |
response_format | Yêu cầu đầu ra có cấu trúc cho mô hình hỗ trợ. |
reasoning_effort | Mô hình hỗ trợ suy luận có thể dùng low、medium、high。 |
modalities, audio | Dùng được cho mô hình hỗ trợ âm thanh đa phương thức. |
user | Tùy chọn, dùng để nhận diện người dùng cuối của bạn. |
Các mô hình hỗ trợ tham số khác nhau. Nếu phản hồi cho biết tham số không được hỗ trợ, hãy xóa hoặc chuyển sang mô hình khác.
Đầu ra luồng
JSON
Phản hồi sử dụng chunk SSE kiểu OpenAI và kết thúc bằng [DONE].
Gọi công cụ
JSON
Các mô hình hỗ trợ gọi công cụ sẽ nhận định nghĩa công cụ và trả về phản hồi gọi công cụ tương thích OpenAI.
Completions cũ
Khách hàng bổ sung văn bản cũ có thể sử dụng POST /v1/completions.
