Panduan permulaan titik akhir serasi OpenAI

Prasyarat: Python atau Node.js

Pasang rasmi openai pakej untuk persekitaran masa larian anda sebelum meneruskan.

Python users need version 1.0.0 or later. Node developers require version 4.0.0 or newer. Both versions support the standard chat-completions structure.

Tiada kebergantungan tambahan diperlukan. SDK mengendalikan pengaturcaraan JSON dan pengangkutan HTTP secara automatik.

Konfigurasi base_url dan kunci API

Arahkan klien SDK anda ke URL asas kami dan bekalkan kunci yang dihasilkan anda.

Gunakan https://api.openaicompatibleendpoint.com/v1 sebagai URL asas. Tetapkan kunci API kepada nilai yang ditunjukkan pada papan pemuka anda.

• Python: base_url="https://api.openaicompatibleendpoint.com/v1"
• Node: baseURL: "https://api.openaicompatibleendpoint.com/v1"

Konfigurasi ini berfungsi dengan mana-mana klien serasi SDK OpenAI. Tiada perubahan kod diperlukan untuk baki logik anda.

Hantar penyelesaian sem pertama anda

Buat permintaan POST ke /v1/chat/completions dengan mesej sistem dan pengguna anda.

ID model ialah uncensored. Model ini menjawab tanpa menolak topik dewasa atau kontroversi yang sah.

• Tetingkap konteks: Jumlah 100,000 token.
• Output maksimum: 16,000 token.

Hantar arahan anda dan terima output teks serta-merta. Ralat dan penolakan adalah percuma. Hanya penggunaan token sebenar dikira terhadap kredit pra-dibayar anda.

Aktifkan aliran dan panggilan fungsi

Aktifkan aliran dengan menetapkan stream: true dalam parameter permintaan anda.

Penggunaan token termasuk dalam segmen terakhir aliran. Ini membolehkan anda menjejak kos secara masa nyata.

Pemanggilan fungsi disokong sepenuhnya. Gunakan tools parameter untuk menentukan skema anda. Model mengembalikan panggilan alat berstruktur yang boleh anda jalankan dalam logik aplikasi anda. Mod JSON juga tersedia melalui response_format.

Kendalikan ralat dan had token

API mengembalikan kod status HTTP piawai untuk isu biasa.

• 401: Kunci API tidak sah. Periksa papan pemuka anda.
• 402: Kredit tidak mencukupi. Tambah baki dengan USDT atau USDC.
• 429: Had laju melebihi. Anda dibenarkan 300 permintaan per minit.

Jika anda melebihi had output 16,000 token, respons akan dipendekkan. Tetingkap konteks termasuk kedua-dua token prompt dan penyelesaian.

Harga dan had

Bayar hanya untuk apa yang anda gunakan. Token input berharga $0.15 bagi setiap 1M. Token output berharga $0.50 bagi setiap 1M.

Kredit prabayar tidak pernah luput tempoh. Bayaran balik tidak dikeluarkan, tetapi caj berganda dibetulkan melalui Sokongan.

Isi semula dengan crypto sahaja. Mata wang yang boleh diterima ialah USDT (TRC20) dan USDC (Base). Isi semula minimum ialah $20. Julat kredit bonus ialah +5% hingga +15% bergantung pada jumlah.

cURL

Copycurl https://api.openaicompatibleendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return list of supported file formats"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)