Hướng dẫn nhanh điểm cuối API tương thích OpenAI

Điều kiện tiên quyết: Python hoặc Node.js

Cài đặt chính thức openai gói cho môi trường thời gian chạy của bạn trước khi tiếp tục.

Người dùng Python cần phiên bản 1.0.0 trở lên. Nhà phát triển Node yêu cầu phiên bản 4.0.0 trở lên. Cả hai phiên bản đều hỗ trợ cấu trúc chat-completions tiêu chuẩn.

Không cần thêm thư viện. SDK tự động xử lý tuần tự hóa JSON và vận chuyển HTTP.

Cấu hình base_url và khóa API

Điểm client SDK của bạn đến URL cơ sở của chúng tôi và cung cấp khóa đã tạo của bạn.

Sử dụng https://api.openaicompatibleendpoint.com/v1 như URL cơ sở. Đặt khóa API thành giá trị hiển thị trên bảng điều khiển của bạn.

• Python: base_url="https://api.openaicompatibleendpoint.com/v1"
• Node: baseURL: "https://api.openaicompatibleendpoint.com/v1"

Cấu hình này hoạt động với bất kỳ khách hàng tương thích SDK OpenAI nào. Không cần thay đổi mã cho phần còn lại trong logic của bạn.

Gửi lần hoàn tất hội thoại đầu tiên của bạn

Thực hiện yêu cầu POST đến /v1/chat/completions với các thông điệp hệ thống và người dùng của bạn.

ID mô hình là uncensored. Mô hình này trả lời mà không từ chối các chủ đề người lớn hợp pháp hoặc gây tranh cãi.

• Cửa sổ ngữ cảnh: Tổng cộng 100,000 token.
• Đầu ra tối đa: 16.000 token.

Gửi lời nhắc của bạn và nhận đầu ra văn bản ngay lập tức. Lỗi và từ chối đều miễn phí. Chỉ việc sử dụng token thực tế mới tính vào tín dụng trả trước của bạn.

Bật phát trực tiếp và gọi hàm

Bật phát trực tiếp bằng cách đặt stream: true trong các tham số yêu cầu.

Sử dụng token được bao gồm trong chunk cuối cùng của luồng dữ liệu. Điều này cho phép bạn theo dõi chi phí theo thời gian thực.

Gọi hàm được hỗ trợ đầy đủ. Sử dụng các tools tham số để xác định lược đồ của bạn. Mô hình trả về các lệnh gọi công cụ có cấu trúc mà bạn có thể thực thi trong logic ứng dụng của mình. Chế độ JSON cũng có sẵn thông qua response_format.

Xử lý lỗi và giới hạn token

API trả về các mã trạng thái HTTP tiêu chuẩn cho các vấn đề phổ biến.

• 401: Khóa API không hợp lệ. Kiểm tra bảng điều khiển của bạn.
• 402: Tín dụng không đủ. Nạp thêm với USDT hoặc USDC.
• 429: Vượt quá giới hạn tốc độ. Bạn được phép 300 yêu cầu mỗi phút.

Nếu bạn vượt quá giới hạn đầu ra 16.000 token, phản hồi sẽ bị cắt ngắn. Cửa sổ ngữ cảnh bao gồm cả token prompt và token hoàn tất.

Giá và giới hạn

Chỉ trả tiền cho những gì bạn sử dụng. Token đầu vào có giá $0.15 cho mỗi 1M. Token đầu ra có giá $0.50 cho mỗi 1M.

Tín dụng trả trước không bao giờ hết hạn. Không hoàn lại tiền, nhưng tính phí kép được sửa qua Hỗ trợ.

Nạp tiền bằng crypto duy nhất. Các loại tiền chấp nhận là USDT (TRC20) và USDC (Base). Khoản nạp tối thiểu là $20. Credit bonus dao động từ +5% đến +15% tùy theo số tiền.

cURL

Copycurl https://api.openaicompatibleendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return list of supported file formats"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)